Ojciec chrzestny sztucznej inteligencji, Geoffrey Hinton, ostrzega przed ryzykiem, kiedy opuszcza Google

Człowiek powszechnie uważany za ojca chrzestnego sztucznej inteligencji (AI) rzucił pracę, ostrzegając przed rosnącymi zagrożeniami wynikającymi z rozwoju tej dziedziny.

Jeffrey Hinton, lat 75, ogłosił swoją rezygnację z Google w oświadczeniu dla New York Times, mówiąc, że teraz żałuje swojej pracy.

Powiedział BBC, że niektóre zagrożenia związane z chatbotem są „bardzo przerażające”.

„W tej chwili nie są mądrzejsi od nas, o ile wiem. Ale myślę, że wkrótce mogą być”.

Pionierskie badania dr Hintona nad uczeniem głębokim i sieciami neuronowymi utorowały drogę obecnym systemom sztucznej inteligencji, takim jak ChatGPT.

Ale brytyjsko-kanadyjski psycholog poznawczy i informatyk powiedział BBC, że chatbot może wkrótce przekroczyć poziom informacji przechowywanych w ludzkim mózgu.

„W tej chwili widzimy, że rzeczy takie jak GPT-4 przewyższają osobę pod względem ilości posiadanej wiedzy ogólnej i znacznie przewyższają osobę. Jeśli chodzi o rozumowanie, nie jest to zbyt dobre, ale robi proste myślący.

„Biorąc pod uwagę tempo postępu, spodziewamy się bardzo szybkiej poprawy. Musimy się więc tym martwić”.

W artykule w New York Times dr Hinton odniósł się do „złych aktorów”, którzy próbowaliby wykorzystać sztuczną inteligencję do „złych rzeczy”.

Poproszony przez BBC o rozwinięcie tego, odpowiedział: „To tylko najgorszy scenariusz, coś w rodzaju koszmarnego scenariusza.

„Możesz sobie wyobrazić, na przykład, niektórych złych aktorów, takich jak [Russian President Vladimir] Putin postanowił dać botom możliwość tworzenia własnych celów podrzędnych.

Ostatecznie może to „stworzyć cele cząstkowe, takie jak„ Muszę stać się potężniejszy ”- ostrzegł naukowiec.

Dodał: „Doszedłem do wniosku, że rodzaj inteligencji, którą rozwijamy, bardzo różni się od inteligencji, którą mamy.

„Jesteśmy systemami biologicznymi, a to są systemy cyfrowe. Duża różnica polega na tym, że w systemach cyfrowych masz wiele kopii tego samego zestawu wag, tego samego modelu świata.

„Wszystkie te klony mogą uczyć się osobno, ale natychmiast dzielić się swoją wiedzą. To tak, jakby mieć 10 000 osób i gdy ktoś się czegoś nauczy, wszyscy automatycznie o tym wiedzą. Dlatego te chatboty mogą wiedzieć o wiele więcej niż jakakolwiek jedna osoba”.

Dr Hinton powiedział również, że było kilka innych powodów odejścia z pracy.

„Jednym z nich jest to, że mam 75 lat. Czas przejść na emeryturę. Kolejnym jest to, że naprawdę chcę powiedzieć kilka dobrych rzeczy o Google. Byłoby bardziej wiarygodne, gdybym nie pracował dla Google”.

Podkreślił, że nie chce krytykować Google’a i że gigant technologiczny jest „bardzo odpowiedzialny”.

W oświadczeniu główny naukowiec Google, Jeff Dean, powiedział: „Pozostajemy zaangażowani w odpowiedzialne podejście do sztucznej inteligencji. Stale uczymy się rozumieć pojawiające się zagrożenia, jednocześnie odważnie wprowadzając innowacje”.