Koluvere linnus rajati aastatel 1234–1238, kuna stiftifoogti Johannes de Lode pojad ei soovinud Saare-Lääne piiskopi uue maahärra võimule alluda.13. sajandi teisel poolel puhkes uus konflikt Liivi ordu ja Saare-Lääne piiskopkonna vahel maavalduste pärast. Ordu vallutas Koluvere linnuse, mis jäi nende kätte mitmeks aastaks. Sisetülide käigus linnus hävitati ja sellest linnusest, mis asus samal kohal, ei ole meie ajani midagi säilinud.
Tänaseni säilinud Koluvere linnuse osade ehitust alustati 13. sajandi lõpus pärast Lodedele kuulunud linnuse hävitamist. Meieni säilinud hoone pärineb piiskop Winrich von Kniprode valitsusajast 1383–1419. Esialgu oli Koluvere ilmselt nelinurkne tornlinnus, külgede pikkusega 9,2 meetrit. Põhikorruse mõigasroietega võlvlagi lubas oletada torni olemasolu juba 13. sajandi lõpust.
Esmakordselt oli ajaloodokumentides Koluvere lossi (Schlosse Lode) märgitud aastal 1427. 1496. aastal mainiti dokumentides esmakordselt Koluvere mõisa.
Koluvere linnus toimis 1439. aastast alates ühena Saare-Lääne piikoppide residentslinnustest. Ühtlasi oli Koluvere Läänemaa stiftifoogti asupaigaks, kes juhtis piiskopkonna läänistamata maade ilmalikku haldust (majandamist). Koluvere linnus oli üks neist linnustest, kus asusid piiskopi sõjasulased.
Piiskop Reinhold von Buxhövden sai linnuse tagasi 1534. aastal ja elas siin kuni surmani (1557. a). 1646. aastal kinkis Rootsi kuninganna Kristiina Koluvere mõisa koos kindralleitnandile ja maanõunikule Friedrich von Löwenile. Löwenite suguvõsa valduses oli Koluvere mõis kuni aastani 1771. Seejärel kinkis Katariina II Koluvere mõisa oma favoriidile Grigori Orlovile. 1797. aastal sai krahv Friedrich Wilhelm von Buxhoeveden, kes abiellus Katariina II ja Grigori Orlovi tütre Natalja Grigorjevna Aleksejevaga, mõisa ametlikult kingituseks, tegelikult aga päranduseks. Mõis jäi Buxhoevedenide suguvõsale kuni riigistamiseni 1919. aastal.
Täna on Koluvere loss erakätes.