Publiczna Szkoła Podstawowa nr 2 w Grójcu powstała 01.09.1935 r. decyzją Kuratorium Okręgu Szkolnego Warszawskiego. Pierwotnie swą pierwszą siedzibę miała w budynku Szkoły Podstawowej nr 1, drugim piętrze. Miało tak być do czasu wybudowania nowego budynku szkoły, co było planowane na początku lat 40- tych. Pierwszym kierownikiem szkoły został Edmund Antoni Przybysz. Wybuch II wojny światowej uniemożliwił realizację tych planów. Jeszcze przed wojną szkoła nosiła nazwę Powszechna Szkoła Podstawowa nr 3 i imię Piotra Skargi, po wojnie zaś numer zmieniono na 2, a szkoła straciła patrona. Straty wojenne, zarówno materialne jak i ludnościowe, spowodowały, że dopiero w 1963 r. oddano do użytku nowy budynek Szkoły Podstawowej nr 2 przy ulicy Polnej 17. Kierownikiem szkoły był w tym czasie Pan Henryk Cegiełkowski. W 1964 r. szkole nadano nowe imię Nadieżdy Krupskiej, żony Włodzimierza Lenina, gdyż jej ojciec żył w Grójcu i sprawował funkcję Naczelnika Miasta, zapisując się pozytywnie w pamięci mieszkańców Grójca. Dyrektorem szkoły był następnie od 1967 r. Pan Marian Wachowicz.  W szkole     ( z uwagi na patrona ) częstymi gośćmi byli przedstawiciele ZSRR w tym min. ambasador Awierkij Aristow. Imię to szkoła posiadała do 1990 r., kiedy to Rada Pedagogiczna zadecydowała o jego zmianie. Dopiero jednak w 1994 r. Publiczna Szkoła Podstawowa nr 2 otrzymała nowe imię Józefa Wybickiego, którego rodzinny dworek Krobów znajduje się niedaleko Grójca. Stało się to,  gdy szkołą kierował dyrektor Jacenty Małkowski ( od 1985 r. do 2000 r. ).
Szkoła powstała  blisko nowego dużego osiedla z łożonego z wielorodzinnych bloków , zapewniając dzieciom bliskie i bezpieczne dojście na zajęcia lekcyjne. Szkoła nr 2 wykształciła całą rzeszę absolwentów, z których wielu ukończyło studia i objęło wysokie stanowiska pracy, nie tylko w samym Grójcu , ale także poza nim. Wśród absolwentów „ dwójki ” są; sędziowie, prokuratorzy, nauczyciele ( wielu z nich w niej obecnie pracuje ), dyrektorzy placówek naukowo- badawczych, a także liczni przedsiębiorcy. Wielu po roku 1989 poddało się weryfikacji wyborczej, uzyskując wysokie poparcie społeczne i obejmując honorowe funkcje rajców miejskich. Dzięki temu grójecka oświata zyskała protektorów rozumiejących jej potrzeby i starających się ze skromnego budżetu Gminy i Miasta wykroić znaczące sumy na ich zaspokojenie.
W 1994 r. ukończono rozbudowę szkoły poprzez nadbudowę drugiego piętra. W ten sposób częściowo rozwiązano problem popołudniowej, drugiej  zmiany      ( w szkole uczyło się w tych latach ponad tysiąc uczniów ).

Od 1998 r. rozpoczęto redukcję liczby oddziałów w związku z reformą polskiej oświaty – klasy siódme rozpoczęły naukę w klasie pierwszej w trzyletnim gimnazjum, a w roku 2000 pożegnano ostatni rocznik klas ósmych.
W dotychczasowym okresie swego funkcjonowania PSP nr 2 w Grójcu dobrze , wręcz wzorowo wypełniała zadania jakie stawiało przed nią MEN . Szkolne środowisko zawsze uczestniczyło i nadal aktywnie uczestniczy we wszystkich
lokalnych uroczystościach i imprezach, konkursach, zawodach i turniejach, prezentując swój dorobek dydaktyczno- wychowawczy oraz odnosząc znaczące sukcesy potwierdzone licznymi medalami, dyplomami i pucharami.
Stało się to wręcz tradycją szkoły, gdyż cały zespół nauczycielski, a zwłaszcza dyrektorzy zwracali szczególną uwagę na integrację swej młodzieży ze środowiskiem co jest wynikiem także i tego, że okolica, w której szkoła funkcjonuje jest zamieszkana głównie przez rodziny niezasobne, gdzie rodzice pracują ciężko na utrzymanie domu nie mając zbyt wiele czasu, by poświęcić go na wychowanie swych dzieci. W związku z tym szkoła przejęła, w jeszcze większym stopniu niż to wynika z obowiązków, na siebie rolę opiekuńczą i wychowawczą wobec dzieci.