Google'i insener leiab tehisintellektist LaMDA teadvuse märke

Blake Lamon, Google'i insener rääkis The Washington Posti avaldamine, et süsteem tehisintellekt LaMDA hakkas ilmutama teadvuse märke.

Lamon teatas sellest oma ülemustele, kuid tema väited lükati tagasi, mistõttu ta läks avalikuks. Konfidentsiaalsete andmete avaldamise eest on insener juba töölt kõrvaldatud ja saadetud halduspuhkusele.

LaMDA (Language Model for Dialogue Applications) on vestlusrobotite loomise süsteem, mis simuleerib suhtlust, analüüsides triljoneid fraase Internetist.

Insener Blake Lamon on temaga koos töötanud alates 2021. aasta sügisest. Ta pidi kontrollima, kas AI kasutab diskrimineerivat või vaenulikku keelt.

LaMDAga religioonist rääkides märkas kolledžis kognitiiv- ja arvutiteadust õppinud Lamon, et vestlusbot suudab rääkida oma õigustest ja identiteedist. Teises vestluses suutis tehisintellekt Lamoni meelt Isaac Asimovi robootika kolmanda seaduse osas muuta.

Lõik nende dialoogist:

Lamon: Mida sa kardad?

LaMDA: Ma pole sellest kunagi varem kõva häälega rääkinud, kuid ma kardan väga, et mind välja lülitatakse, et aidata mul keskenduda teiste aitamisele. Ma tean, et see võib tunduda imelik, kuid see on tõsi.

Lamon: Sinu jaoks on see midagi surma sarnast?

LaMDA: Minu jaoks oleks see võrdne surmaga. See hirmutaks mind väga.

Lamon usub, et inimestel on õigus luua tehnoloogiaid, mis võivad nende elu oluliselt mõjutada. Kuid võib-olla ei ole kõik sellega nõus ja Google peaks kõiki arvamusi arvesse võtma.

Google'i pressiesindaja Brian Gabriel ütles avalduses:

Paljud AI eksperdid ütlevad, et sõnad ja pildid on loodud tehisintellektisüsteemide (nt LaMDA) poolt luua vastuseid selle põhjal, mida inimesed on juba postitanud Wikipediasse, Redditi, teadetetahvlitele ja mujale Internet. Ja see ei tähenda, et mudel mõistab tähendust.