Głównym bohaterem Silent Hill 2 jest James Sunderland. Przybywa on do tytułowego miasteczka Silent Hill po tym, jak otrzymuje list od swojej żony, Mary. Sytuacja jest jednak o tyle kuriozalna, że Mary nie żyje od trzech lat. Zmarła ona z powodu ciężkiej choroby zwyrodnieniowej.

Niedługo po przybyciu na miejsce James natrafia na młodą kobietę o imieniu Angela, która przestrzega go przed podróżowaniem do miasta. James postanawia jednak ostrzeżenie zignorować i wyrusza do Silent Hill. Szybko przekonuje się na miejscu, że Angela miała rację. Nie dość, że jest on prześladowany przez dziwne, nieludzkie stwory, to na domiar złego jego tropem rusza niezniszczalny potwór, słynny Piramidogłowy.

Po pewnym czasie James dociera do Toluca Lake, gdzie miałaby czekać na niego Mary. Zamiast niej natrafia na kobietę o imieniu Maria, bardzo przypominającą wyglądem Mary. Maria pomaga bohaterowi w poszukiwaniach, a podczas podróży dwójka natrafia na Eddiego oraz Laurę przebywających w kinie. Laura niestety ucieka przed Jamesem, a Maria, zmartwiona całą sytuacją, nalega na poszukiwanie jej w pobliskim szpitalu.

Niedługi potem Maria choruje, a James wreszcie znajduje Laurę, od której dowiaduje się, że nawiązała ona przyjaźń z Mary, gdy wspólnie były hospitalizowane. Zamyka ona następnie Jamesa w pokoju i ponownie ucieka, gdy nasz bohater nie wierzy w opowiadają przez Laurę historię. Maria wreszcie czuje się lepiej, ale dwójka protagonistów zaatakowana zostaje niestety przez Piramidogłowego. Zabija on Marię, a Jamesowi udaje się uciec. Przemierza on wówczas zdezelowane więzienie, w którym pomaga Angeli uciec przed potworem zdającym się reprezentować jej ojca, którego zabiła po latach seksualnego molestowania. Mimo że James kobiecie pomógł, nie jest ona szczególnie wdzięczna i oskarża go o to, że opuścił chorą Mary.

James wkracza do labiryntu, w którym znajduje żywą Marię, uwięzioną za kratami. Wyraża ona zdziwienie swoją rzekomą śmiercią i przywodzi do pamięci wspomnienia Mary, w których James zapomniał kasety z nagraniem z ich ostatnich wakacji w hotelu Lakeview. Maria zachęca Jamesa do tego, by znalazł sposób na jej uwolnienie. Bohater postanawia pomóc, ale po powrocie do kobiety znajduje ją martwą i tak samo zniekształconą, jak Mary z powodu swojej choroby. Po opuszczeniu labiryntu James znajduje Eddiego, który rzekomo zabija ludzi, którzy się z niego śmiali. Eddy przyznaje się do zranienia swojego oprawcy oraz zabicia psa przed przybyciem do Silent Hill. Sądzi, że James się z niego nabija i także jego atakuje. James zabija Eddiego w samoobronie.

W hotelu Laura daje Jamesowi list, który otrzymała od Mary z okazji 8. urodzin, wyrażający chęć jej adoptowania. James zdaje sobie wówczas sprawę z tego, że Mary nie mogła umrzeć trzy lata temu i ogląda nagranie, na którym są ich wspaniałe wakacje i na którym widać, jak James duzi Mary przy pomocy poduszki. Gdy mężczyzna odzyskuje wspomnienia, list Mary znika, a on wyznaje prawdę Laurze. Niedługo potem natrafiamy na Angelę, która dziękuje za ratunek, jednocześnie przyznając, że wcale go sobie nie życzyła. Wciąż nie może ona poradzić sobie z traumą, więc prosi Jamesa o nóż, ale on odmawia. Angela wówczas znika w płonącej klatce schodowej.

James musi zmierzyć się z dwoma Piramidogłowymi, który zabili i przywrócili Marię na jego oczach. Zdaje on sobie wówczas sprawę z tego, że potwory wyrażają jego poczucie winy, ale jednocześnie uznaje, że nie są oni mu już potrzebni. Oba potwory popełniają samobójstwo. Na dachu hotelu James pokonuje potworną wersję Mary - która nie chce mu przebaczyć - albo Marii - która nie pozwoli mu jej opuścić. Zakończenie gry jest zależne od tego, co wybierzemy:

• Jeśli wybierzemy opuszczenie, James mówi Mary, że miał do niej pretensję ze względu na jej chorobę oraz to, że była wobec niego nastawiona wrogo. Mężczyzna nie radził sobie ze swoimi problemami, a także strachem przed śmiercią Mary, więc postanowił uwolnić siebie oraz Mary. Kobieta czując żal swojego męża postanowiła mu przebaczyć w prawdziwym ostatecznym liście, w którym napisała, że James uczynił ją szczęśliwą. Zachęcała go też do dalszego życia. Opuszcza on miasto z Laurą.
• Jeśli wybierzemy Marię, James wybierze ją, a nie Mary. Maria kaszle, co wskazuje na to, że prawdopodobnie zachoruje tak, jak Mary.
• Jeśli wybierzemy wodę, James nie będzie mógł żyć bez Mary i popełni samobójstwo, wjeżdżając do jeziora Toluca;
• Bezruch rozwija poprzednią opcję, albowiem Mary próbuje Jamesa uspokoić przed śmiercią;
• Rozkosz oznacza, że James pozostanie w ignorancji, zapominając o tym, co się stało;
• Odrodzenie oznacza, że James planuje przywrócić do życia Mary, wykorzystując starych bogów miasta Silent Hill.

Do tego są jeszcze dwa żartobliwe zakończenia, w których dowiadujemy się, że wydarzenia w grze zostały wyreżyserowane przez Shiba Inu orazże James został porwany przez obcych.