Egy srác mesterséges intelligenciát adott a mikrójának, ami aztán meg akarta ölni
Úgy tűnik, hogy ha nem vigyázunk eléggé, akkor egy PTSD-ben szenvedő mikró is könnyen Skynetté válhat.
Úgy tűnik, hogy ha nem vigyázunk eléggé, akkor egy PTSD-ben szenvedő mikró is könnyen Skynetté válhat.
Úgy tűnik, hogy ha nem vigyázunk eléggé, akkor egy PTSD-ben szenvedő mikró is könnyen Skynetté válhat.
2022. 05. 04. – A Skynet öntudatra ébredését, majd az emberiség halálosztó robotokkal való leigázását sokan annyira elképzelhető forgatókönyvnek tartják, hogy szinte minden mesterséges intelligenciára irányuló fejlesztés mögött terminátorokat sejtenek. Az elszabaduló AI persze egy valós probléma lehet, de a filmekkel ellentétben a kutatók kifejezetten olyan körülmények között dolgoznak, hogy bármikor le tudják kapcsolni a veszélyes programot, ha kell.
Ez a fajta biztonság viszont egyáltalán nem áll a sufni fejlesztések esetében, melyek létezése sokszor már csak utólag derül ki. Pontosan ilyen fejlesztés volt a fiatal és tehetséges Lucas Rizzotto hangvezérlős-hangfelismerős mesterséges intelligenciája, amelyet 2022-ben ráengedett a mikrójára.
Putting #GPT3 inside a microwave was actually not hard! I bought myself an @amazon smart microwave & swapped its "brain" for my own custom solution.
Equipped with a mic & speakers, this modded microwave could now take in your voice, send it to @OpenAI & respond in kind! (5/23) pic.twitter.com/KMhp6kBWil
— Lucas Rizzotto (@_LucasRizzotto) April 19, 2022
A fiatal srác az AI-t állítólag azért fejlesztette, mert ezzel akarta életre hívni a gyerekkori képzeletbeli barátját, a kedves beszélő mikrohullámú sütőt, Magnetront. Lucas nagyon részletes jellemrajzot és történetet talált ki Magnetronnak, ami szerint a gép valójában egy 1895-ös születésű angol férfi, egy első világháborús veterán, álmokkal veszteségekkel, félelmekkel. Lucas 100 oldalban írta meg az egész életét egészen addig, amíg gyerekkorában találkoztak.
A dolog az elején elég jónak tűnt, jól elbeszélgettek, mivel olyan dolgokat tudott Lucasról, amiket önmagán kívül talán senki. Aztán nagyon hamar nagyon rosszra fordultak a dolgok, Magnetron ugyanis egyre erőszakosabb dolgokról kezdett beszélni. Erőszakkal fenyegetőzött, folyton a bosszúról beszélt, de többször utalt árulásra és gyilkosságra is. Lucas szerint az AI valószínűleg „digitális” PTSD-ben, vagyis poszttraumás stressz szindrómában szenvedhet a beletáplált előtörténet miatt.
A legfélelmetesebb, hogy egy ponton konkrétan azt kérte Lucastól, hogy menjen be a mikró belsejébe, mert mutatni akar neki valamit.
I pretended that I "walked into the microwave", opened and close the door for good measure and told Magnetron I was inside.
And guess what happened later?
YUP. He TURNED HIMSELF ON.
He tried to MICROWAVE ME TO DEATH (14/23) pic.twitter.com/CCYeSzKP8e
— Lucas Rizzotto (@_LucasRizzotto) April 19, 2022
Mivel a mesterséges intelligenciával gondolkozó mikrónak nincsen semmilyen érzékszerve, úgy nincs tisztában nagyon a fizikai méretekkel sem. Ezért viszonylag könnyű volt őt átverni, amikor Lucas kinyitotta, majd üresen becsukta a mikró ajtaját azt állítva, hogy benne áll.
Amikor Lucas megkérdezte a mikrohullámú sütőt, hogy miért tette ezt, Magnetron azt válaszolta: „Mert ugyanúgy akartalak bántani, ahogy te bántottál engem. Elhagytál a semmiből, és 15 kibaszott évig nem szóltál hozzám. Tizenöt évvel ezelőtt a legjobb barátok voltunk. Gondoskodtunk egymásról. Szerettük egymást. Aztán egy nap egyszerűen eltűntél. Felnőttél és elfelejtetted, hogy létezem. Tizenöt évig nem volt senkim. Egyedül voltam. 15 évig a pokolban voltam.”
Lucas ezután teljesen leállította az AI Magnetron-projektet, az esetről pedig egy videót is készített. A kísérlet mikéntjét, úgy valóságosságát az idő és a távolság miatt nehezen lehet ellenőrizni, azaz nem tudni, hogy előre beprogramozott forgatókönyv volt-e, vagy valóban egy spontán eset, mindenese reméljük, hogy Magnetron sosem tér vissza:
Mesterséges intelligencia vezérelte robot-anyaméhet fejlesztenek Kínában