Budowla ta należy do najstarszych i najciekawszych zabytków budownictwa gotyckiego znajdujących się na terenie Ostródy. Pierwsza warownia położona w widłach Drwęcy wpadającej wówczas dwoma nurtami do Jeziora Drwęckiego istniała zapewne już w połowie XIII wieku. Pierwsza wzmianka pochodzi z około 1300 roku. Była to prawdopodobnie budowla o konstrukcji drewniano-ziemnej i podlegała administracyjnie komturowi dzierzgońskiemu. Nową budowlę obronną wzniesiono w latach 1349–1370, a więc za rządów komtura ostródzkiego Güntera von Hohensteina, który był znany jako inspirator okazałej budowli zamkowej w Świeciu. W przeciwieństwie do niej zamek ostródzki nie miał wówczas wież, które w końcu XIV wieku były rzadkością w budownictwie krzyżackim, wypełnienie wyspy osiedlem nie pozwoliło na założenie wzmocnionego podzamcza, które przeniesiono na przeciwległy brzeg rzeki. W 1381 roku istniały dwie budowle zamkowe, stara i nowa, obie spalone tego roku przez wojska księcia litewskiego Kiejstuta.

Przygotowując się do nowej wojny z Polską, zamek odbudowano w latach 1407–1410 na planie zbliżonym do obecnego, z tym że lepiej go umocniono, otoczono murem i fosą.

W czasie II wojny światowej budynek znowu został doszczętnie spalony. Odbudowę rozpoczęto w 1974 roku. W chwili obecnej mieści się w nim centrum kultury, galeria, biblioteka oraz muzeum.