Tavaly augusztusban egy nemzetközi kutatócsoport egy egészen érdekes dologra lett figyelmes az emberi CT-felvételek elemzésére általuk létrehozott mesterséges intelligencia működése kapcsán.

Az AI mindenfajta kapaszkodó nélkül valahogyan meg tudta különböztetni az eltérő rasszokba tartozó alanyok képeit, ami még akkor is pontos tudott maradni,  amikor az elemzett képek olyan mértékben romlottak, hogy az anatómiai jellemzők emberi szemmel már nem voltak megkülönböztethetők. Ezt akkor a kutatók nem teljesen tudták hová tenni, hiszen a programot nem erre a célra hozták létre, ugyanakkor remek lehetőség nyúlt ennek tanulmányozására.

Az elemzéseket végző MIT szakemberek végül arra jutottak, hogy az AI 90 százalékos pontossággal képes meghatározni egy páciens rasszát, arra viszont még mindig nem találtak kielégítő választ, hogy erre miként is képes. 

„Amikor a végzős diákjaim megmutattak nekem néhány eredményt, amelyek ebben a tanulmányban szerepeltek, valójában azt gondoltam, hogy ez biztos valami tévedés” – mondta Marzyeh Ghassemi, az MIT villamosmérnöki és informatikai tanszékének adjunktusa, a The Lancet Digital Health című orvosi folyóiratban szerdán megjelent tanulmány társszerzője. „Őszintén szólva, először azt hittem, hogy a diákjaim megőrültek, amikor elmondták nekem”.

Hogyan? Rasszista az AI?

A tanulmányban szervesen résztvevő kutatócsoport, amelyben az Egyesült Államok, Kanada, Ausztrália és Tajvan elismert tudósai is részt vettek, először egy mesterséges intelligencia rendszert képzett ki röntgen- és CT-felvételek szabványos adatsorainak felhasználásával, ahol minden egyes képen szerepelt a személy faji hovatartozása. A képek a test különböző részeiről származnak, többek között a mellkasról, a kézről és a gerincről. A számítógép által vizsgált diagnosztikai képek nem tartalmaztak nyilvánvaló rasszokra jellemző jelzőket, például bőrszínt vagy hajszerkezetet.

Miután a szoftver nagyszámú, fajjal jelölt képet kapott, különböző, nem jelölt képsorozatokat mutattak neki. A program figyelemre méltó pontossággal, gyakran jóval 90 százalék feletti pontossággal tudta azonosítani a képeken szereplő emberek rasszát. Még akkor is, amikor azonos méretű, korú vagy nemű emberek képeit elemezték, a mesterséges intelligencia pontosan megkülönböztette a fekete és fehér betegeket.

A kutatók egyelőre nem tudják egyértelműen megmondani, hogy az AI erre hogyan lehet képes, hiszen elsősorban betegségek kiszűrésére hozták létre. Most azt gyanítják, hogy valami köze lehet a bőrszínt meghatározó pigmenthez, a melaninhoz. Talán a röntgen- és CT-szkennerek érzékelik a sötétebb bőr magasabb melanintartalmát, és ezt az információt olyan módon ágyazzák be a digitális képbe, amit az emberi felhasználók eddig nem vettek észre.

Hogy ezt miként lehet a későbbiekben hasznosítani, azt nem tudni, mindenesetre több neves szakember is attól tart, hogy az AI-alapú diagnosztikai rendszerek akaratlanul is faji alapon elfogult eredményeket hozhatnak.

via – Boston Globe

Ha érdekelnek az AI-alapú fejlesztések, akkor ez is érdekelhet:

Egy mesterséges intelligencia menthet meg minket a műanyagba fulladástól