Najnowszy odcinek podcastu. „Twoi naukowcy byli tak pochłonięci tym, czy mogą to zrobić, że nie zastanowili się, czy powinni” - ten cytat z Parku Jurajskiego jak ulał pasuje do wątpliwości, które budzi rozwój generatywnej sztucznej inteligencji. Bo jej rozwój też przypomina budowę takiego parku z dinozaurami. Z drobnymi wyjątkami. Park EjAjski nie powstaje na bezludnej wyspie, tylko w środku wielkiej metropolii i to bez pozwolenia na budowę. „Life finds a way - życie znajdzie sposób”. To kolejna kwestia dr. Iana Malcolma z niezapomnianego dzieła Stevena Spielberga na podstawie powieści Michaela Crichtona, która pasuje do problemów z genAI. Wypowiedziana, kiedy okazało się, że wbrew zamierzeniu twórcy parku, dinozaury nie były bezpłodne i zaczęły się rozmnażać. Wprawdzie w przypadku LLMów nie mamy do czynienia z formą życia, ale podobnie jak fikcyjne dinozaury, tak i sztuczna inteligencja zachowuje się w sposób nieprzewidywalny, wymyka się założeniom i ograniczeniom opracowanym przez twórców eksperymentów.I wcale nie chodzą mi po głowie scenariusze z „Matriksa” czy „Terminatora”, bo nieszczęścia w znacznie mniejszej skali uważam za bardziej prawdopodobne. Co za przypadek, znowu „Park jurajski” jest znacznie lepszą paralelą niż dzieła o zbuntowanej sztucznej inteligencji.Najwięksi gracze z branżyNie chcą tego widzieć, albo raczej widzą, ale próbują od tego odwrócić uwagę najważniejsi gracze w branży. Dario Amodei z Anthropic, Sam Altman z OpenAI i Elon Musk od xAI niedawno spijali sobie z dzióbków ogłaszając konieczność spowolnienia prac nad generatywną sztuczna inteligencją. W domyśle, bo to zagraża ludzkości. Dolina krzemowa woła „nie czas żałować róż, kiedy grozi nam pożar lasów”. Bo na razie w puszczy jeszcze nie zaprószono ognia. Tymczasem pojedyncze róże już zamieniają się w kupkę popiołu. Za sprawą przestępstw dokonywanych z użyciem agentów AI.Z pozoru drobnych przestępstw, jeśli porównać je z groźbą zagłady całego rodzaju ludzkiego. I dlatego z nią są porównywane. Żeby opinii publicznej łatwiej było przymknąć na nie oko. A przy okazji żeby pozorowanym poczuciem odpowiedzialności odwieść rządy i polityków od uregulowania branży bez jej udziału i wbrew jej finansowemu interesowi. Ale to inna para kaloszy.Na razie AI nie jest zagrożeniem dla egzystencji ludzkości, ale już dla pojedynczego człowieka może być (więcej o tym mówiłem w podcaście „Niepytalski pyta”. Może jednak nie na skutek braku nadzoru budowlanego podczas budowy parku. Inżynieria lądowa jest przewidywalna, a nadzór polega na kontrolowaniu, czy coś jest realizowane zgodnie ze sztuką. Pod tym względem rozwój genAI bardziej przypomina eksperymenty medyczne, których wynik jesteśmy w stanie przewidzieć tylko mniej więcej.AI a medycynaChyba nikt, kto choć trochę zna historię medycyny, nie chciałby, żeby sztuczna inteligencja także powstawała w oparciu o podobne aberracje, a nawet wprost zbrodnie dokonywane na ludziach. Dlatego postuluję - stwórzmy (jako ludzkość) podobny jak dla eksperymentów medycznych system pozwoleń, kontroli przebiegu i skutków, ubezpieczeń od odpowiedzialności cywilnej i jasną procedurę karną dla odpowiedzialnych za najgorsze skutki uboczne.Trzeba powołać niezależne komisje, powiedzmy, cyber-etyczne. Może nawet międzynarodowe. A że biurokracja spowolni rozwój technologii? Przecież tego branża sobie życzy. Co z tego, że życzenie spełni się zupełnie inaczej, niż tego oczekiwali jej przedstawiciele? To ryzyko ponoszą także pisząc prompty dla swoich modeli językowych. Czemu w polityce mają mieć lepiej?Czytaj także: Porozumienie ponad podziałami. Technologiczni giganci będą działać razem