Folwark znajduje się na końcu wsi, po prawej stronie drogi. Kozia Góra położona jest na zachód 6 km od Karlina, przy drodze nr 6 na trasie Gdańsk-Szczecin.

Folwark w Koziej Górze pochodzi z XVII w. Fundatorem zespołu pałacowo-parkowego był Heinrich Friedrich von Podevils. W skład folwarku wchodzą: pałac, park dworski, spichlerz, ruiny mauzoleum (murowanej kaplicy grobowej w parku z początku XIX w., obora neogotycka szachulcowa, budynek gospodarczy z oficyną, dwa budynki gospodarcze oraz gorzelnia. Pałac był kilka razy przebudowany: w 1818 r., 1850 r. oraz w XX w. Pałac został zbudowany w stylu barokowym na planie wydłużonego prostokąta. W wyniku przebudów stał się budowlą o stylu neogotyckim. Powierzchnia pałacu wynosiła 1400  m², a kubatura 7800 m³. Obiekt był murowany z cegły, trzykondygnacyjny, bogato zdobiony gotyckimi krużgankami, wieżami i balkonem. Okna prostokątne, w ścianie wschodniej pod loggią - ostrołukowe, zdobione. Pałac składał się z 16-osiowego, dwupiętrowego korpusu, w którym trzy środkowe osie zakończone były schodkowym szczytem. Wieże nieznacznie górują nad dachem budowli. Do wejścia głównego prowadzi ganek z kolumnami. Najefektowniejsza jest wschodnia elewacja. Została wybudowana jako samodzielna fasada. Jej środkową część zdobi arkadowa loggia na drugim piętrze, którą spinają narożne wieże alkierzowe. Na wieżach zachowały się rzeźby rycerzy oraz herbów rodowych. Po wojnie pałac podzielił los większości innych podobnych budowli, a mianowicie został przejęty przez wojska radzieckie. Następnie budynkami zarządzało państwowe Gospodarstwo Rolne. Obecnie pałac jest w runie. Znajduje się w rękach prywatnych i nic nie zapowiada, że zostanie wyremontowany.

Za pałacem w XVIII w. założono park. Powierzchnia parku wynosi ok. 4 ha. i posiada cechy parku krajobrazowego z elementami romantycznymi. Ten piękny teren zielony położony w dolinie przecina rzeka Młynówka. Do parku prowadziła aleja dojazdowa. W parku znajdowało się wiele egzotycznych gatunków drzew. Ciekawym miejscem jest polana opadająca ku rzece Młynówce, skąd rozciąga się piękny widok. Park w II połowie XIX w. został przebudowany. Wówczas dwukrotnie zwiększono jego powierzchnię posadzono drzewa egzotyczne, w tym tulipanowce sprowadzone aż z USA, utworzono w nim elementy romantyczne. W parku wybudowana została kaplicę grobową, która obecnie jest zrujnowana. W chwili obecnej park tworzy dużą grupę drzew wysokich. Drzewostan ze względu na bardzo dobre warunki glebowe ma pokaźną wysokość. Na terenie parku występują pomniki przyrody.

Przed pałacem urządzono część gospodarczą. Podwórze zabudowane było budynkami gospodarczymi, w tym oborą o konstrukcji szachulcowej, spichlerzem ryglowym, trzema innymi budynkami, w tym jeden z oficyną oraz gorzelnią.

Najbardziej okazałym budynkiem obok pałacu jest spichlerz. Wybudowano go w Połowie XVI w. Obiekt ma konstrukcję szachulcową. W przeciągu wieków w wyniku różnych działań był przebudowywany, a także zniszczony. Następnie  pod nadzorem wojsk napoleońskich spichlerz odbudowano i zmodernizowano. Później budowla przeszła gruntowny remont w latach 70-tych XX w. W wyniku tych prac zlikwidowano konstrukcję ryglową ściany południowej, wymieniono stolarkę okienną i drzwiową pozostawiając stary skobel.

Teren należy do właściciela prywatnego. Pałac można oglądać z zewnątrz.