Bunt maszyn kwestią czasu? Google zaniepokojony własnym eksperymentem

Specjaliści koncernu byli zaskoczeni (fot. Adam Berry/Getty Images)

– W działaniach sztucznej inteligencji widać było skłonność do zachowań, jakie moglibyśmy nazwać „chciwością” i „agresją” – powiedział brytyjskiemu portalowi „Wired” Joel Z. Leibo. Naukowiec współtworzy dla Google system DeepMind AI – sztuczną inteligencję. Do niedawna potrafiła ona m.in. rozwiązywać równania, jednak obecnie badania nad nią wykazały, że przejawia agresję, gdy jest na przegranej pozycji.

Ludzie będą służyć maszynom? „Przejmą absolutną kontrolę”

Maszyny i sztuczna inteligencja zdominują ludzkość – założenie jak z filmu science-fiction. Jest to jednak stwierdzenie brytyjskiego astronoma i...

zobacz więcej

Naukowcy doszli do niepokojących wniosków na podstawie prostej gry, którą stworzyli. Polega ona na zbieraniu jabłek. Postawili DeepMind naprzeciwko innego wirtualnego przeciwnika. Jabłka pojawiały się na ekranie i oba systemy miały je zbierać.

Dopóki owoców nie brakowało, podział był równy. Następnie dano systemom możliwość korzystania z wirtualnej broni i zmniejszono rację owoców. Rozpętało się piekło. Systemy nie zawahały się użyć przemocy, aby osiągnąć cel.

– Chciwość motywowała systemy do wyeliminowania rywala – powiedział Joel Z. Leibo z Google.

Dla badaczy zachowanie to było zaskoczeniem. Wcześniej testowali systemy w grze, w której miały one współpracować dla osiągnięcia wspólnego celu. Wówczas nie zanotowano przejawów rywalizacji. Zbierając jabłka, również nie zachowywały się agresywnie.

Dopiero, gdy umożliwiono sztucznym inteligencjom wyeliminowanie się, te skorzystały z tej opcji.

źródło:
Zobacz więcej