Nel recarsi a Tergu, da qualsiasi parte si giunga colpisce la struttura frammentaria dell'abitato, apparentemente senza un centro vero, ma distribuito in sette gruppi diversi, ciascuno con proprio nome. La logica di questa frammentazione è data dal profondo contatto che lega il tergulano (si chiamano così gli abitanti di Tergu) alla campagna e allo spazio aperto.

La conca di Tergu fu abitata da tempi remoti, lo testimoniano i numerosi resti nuragici: il nuraghe Tudari, composto da tre torri coniche, il nuraghe Riu-Riu e i resti di poderose mura che circondano il sito di Monte Alias. I Romani hanno lasciato delle testimonianze che attestano la loro presenza: una necropoli nei pressi di Monte Rizzu, in prossimità del nuraghe Su Colbu, che ha restituito i resti dei cremati entro dei recipienti di pietra e terracotta. Sono state raccolte anche tre stele funerarie figurate del tipo di Viddalba. Una lastra tombale con epigrafe si conserva nella chiesa parrocchiale. La presenza bizantina è testimoniata da resti di fondamenta di un monastero (sopra i quali poi edificarono i monaci di Montecassino) e inoltre dal titolo della chiesa, titolo che non si riscontra nella chiesa latina: Rosa di Gerico. Ma la testimonianza più imponente che riporta a un periodo di splendore è la chiesa romanica di Santa Maria di Tergu (S. Maria Rosa di Gerico). La cheisa con annesso monastero fu eretta molto probabilmente da Mariano I di Torres nel 1113. La data della sua consacrazione è da collocarsitra il 1127 e il 1137. Il monastero di Tergu, che ospitava oltre cento monaci, grazie a donazioni giudicali e di privati divenne ben presto il più importante monastero dei monaci di Montecassino in Sardegna; mlti i terreni che ad esso appartenevano e numerose le chiese di proprietà di priorati che da esso dipendevano. Diversi pontefici si interessarono di Tergu per difenderne la libertà e i beni: Callisto II, Urbano V e Sisto IV. Innocenzo III in una lettera del 1206 constatava che Montecassino possedeva il monastero di Tergu da più di cento anni. Il nome della chiesa è pur ricordato nella porta di bronzo della badia cassinese, in una targhetta databile intorno al 1130.

Il monastero, indebolito nel 1300 dai Pisani e Genovesi, decadde del tutto con il dominio aragonese. Da allora tutto divenne rovina, le mura del monastero crollarono, le campagne si spopolarono.

Unica sentinella rimase la chiesa. Pur mozza del frontone continua ad accogliere i numerosi pellegrini oranti per la festa che ancora si celebra l'otto settembre. All'aprirsi del nuovo secolo il territorio di Tergu era diviso da tre comuni, Castelsardo, Osilo e Nulvi, che avevano tra loro contrasti anhce per l'accesso alla chiesa, tanto che in un periodo vi furono praticate tre diverse porte. Man mano che si veniva costituendo il nucleo abitato, maturava nei tergulani l'idea di conseguire l'autonomia amministrativa: il sogno si è realizzato il 10 febbraio del 1980, quando gli abitanti erano 545. Le occupazioni principali restano l'agricoltura e l'allevamento, praticati nella piana e sulle colline circostanti, costituite da calcari e da depositi marini; ma, anche se il territorio comunale non si affaccia sul mare, si sta facendo strada l'intenzione di valorizzare risorse e monumenti, per attrarre un numero via via maggiore dei tanti turisti che soggiornano sulla costa o ne percorrono le strade. Principale oggetto d'attrazione rimane la chiesa. Molte famiglie stanno riscoprendo la vocazione per l'agriturismo, che cresce rapidamente, ed i cestini che si intrecciano a Tergu non sono inferiori a quelli famosi di Castelsardo.