Każde z tych określeń może być poprawne.

Poprawna pisownia, znaczenie: określenie nietypowe zazwyczaj należy zapisywać łącznie. Jest to zgodne z zasadą, iż w języku polskim przeczenie nie z przymiotnikami pisze się razem.
Nietypowe oznacza przedmioty lub wydarzenia, które nie są zwyczajne, nie mają cech najczęściej spotykanych.

Przykłady poprawnej pisowni

To było bardzo nietypowe zdarzenie, którego na pewno nie zapomnę przez kilka najbliższych lat.
Jej dzisiejsze nietypowe zachowanie wzbudziło podejrzenia, że przyszła do pracy pijana.
Tomek robił dzisiaj nietypowe jak na niego uwagi, więc podejrzewam, że coś go bardzo trapi.

Poprawna pisownia, znaczenie: wyjątkowo język polski dopuszcza napisanie przymiotników rozdzielnie z przeczeniem nie, jeśli ma to na celu podkreślenie zaprzeczenia i przeciwstawności. W takim przypadku niezbędne jest uszczegółowienie swojej wypowiedzi.

Przykłady poprawnej pisowni

Wypowiedzi Franka wydały mi się nie typowe, ale dość innowacyjne, więc poprosiłem go o więcej szczegółów.
W jej zachowaniach zobaczyłem nie typowe, ale nowe schematy, które musiała niedawno opracować.
Tamto działanie było nie typowe, lecz bardzo zaskakujące, myślałem, że lepiej cię znam.