Digitália

2022.12.14. 06:00

Nem kell félni az új robotoktól: olyanok, mint mi – sajnos

Melissa Heikkilä, az MIT Technology Review munkatársa kipróbálta a képgeneráló mesterséges intelligenciákat, s eléggé lehangoló következtetésekre jutott. A robotok minket tükröznek.

Botticelli parafrázis

Bár most a legnagyobb felhajtás a magas szinten beszélgetni és írni képes ChatGPT körül van, az igazi nagy durranást az utóbbi hónapokban a mesterséges intelligencia által generált képek jelentették: már otthon is készíthetünk élethű képeket bárkiről, bármilyen testet rajzolva köré, tetszőleges környezetben. Otthoni számítógépen.

A mesterséges intelligencia képalkotás úgy működik, hogy szövegesen leírjuk a számítógépnek, hogy mit akarunk megjeleníteni, aztán az a megadott paraméterekkel, véletlenszerű generálással másodpercek alatt létrehoz olyan képeket, amiken egy profi grafikus napokig-hetekig dolgozna.

Heikkilä tehát kedvet kapott, hogy ő is kipróbálja a kollégái által nagy élvezettel használt programokat.

 

Munkatársai nagy élvezettel gyártattak le magukról – arcképükről – rendkívül realisztikus és hízelgően mutatós avatarokat, amelyek űrhajósnak, dicső középkori lovagnak, DJ-nek vagy éppen viking harcosnak jelenítették meg őket. Némelyik talán díjnyertes albumok borítóin is megjelenhetne.

 

Neki azonban túl gyakran csak meztelenség jutott: 100 generált avatarból 16 nagyrészt meztelen lett, 14 pedig rendkívül kevés ruhadarabbal és nyíltan szexualizált pózban készült el.

 

Nehéz volt illusztrációnak kiválogatni néhány itt is közölhető képet az MI neten fellelhető produkciói közül.

 

Hogyan jött létre a legelterjedtebb mesterséges intelligencia képgenerátorok adatbázisa? A hatalmas, nyílt forráskódú adatkészlet képeit az internetről szedték össze. Mivel a web tele van meztelen vagy alig öltözött nők szexista, rasszista sztereotípiákat tükröző képeivel, az adatkészlet az ilyen típusú képekből tanult. Hiába „saját alkotásokat”, sosem látott férfiak és nők képeit hozza létre, abból tanul, ami neki jutott.

Heikkilä nagyon lehangolónak találta, amit kapott. Míg kollégái remekül mutattak a képeken, ő szexuális céltárggyá változott.

Amikor viszont azt állította magáról a gépnek, hogy férfi, rögtön ruhába öltöztette, s a képeken magabiztos embernek és nem tárgynak nézett ki.

„A nők az interneten szexuális tartalommal társulnak, míg a férfiak fontos területeken reprezentálnak, orvoslásban, tudományban, üzleti életben és így tovább – magyarázza Aylin Caliskan, a washingtoni egyetem kutatója. – A mesterséges intelligencia jellemzően fehér férfiakat, mint orvosokat, építészeket és hősies alakokat mutat, a nőket pedig legjobb esetben fodrászként vagy szobalányként ábrázolja.”

De nem csupán rossz képzési forrásokról van szó. Amikor a modellek készülnek, az alkalmazásokat fejlesztő vállalatok döntéseket hoznak az adatok felhasználásáról – mondja Ryan Steed, a Carnegie Mellon Egyetem szakembere, aki a képgenerációs algoritmusok torzulásait tanulmányozza.

„Valakinek az elején ki kell választania a gép képzési technológiáját, s ő dönthetne úgy, hogy lépéseket tesz ezen elfogultságok enyhítése érdekében” – mondja.

Már rövid távon is nyilvánvaló káros hatásokkal lehet számolni, ha nem konszenzusos meztelen képeket gyártanak nőkről vagy akár gyermekekről.

Caliskan hosszabb távon még nagyobb problémákat lát. Mivel a mesterséges intelligenciával generált képek elfogult szemléletükkel visszaáradnak az internetre, végül ismét csak képzési adatokká válnak a jövőbeli modellek számára. „Olyan jövőt fogunk létrehozni, ahol tovább erősítjük ezeket az elfogultságokat?” – kérdezi.

Ezek is érdekelhetik

Hírlevél feliratkozás
Ne maradjon le a duol.hu legfontosabb híreiről! Adja meg a nevét és az e-mail-címét, és mi naponta elküldjük Önnek a legfontosabb híreinket!