OpenAI hoiatas AI avastamise eest, mis võib inimkonda ohustada
Varia / / November 23, 2023
Salaprojekt nimega Q* võis olla üks Sam Altmani vallandamise põhjusi.
Päev enne pagendus OpenAI tegevjuht Sam Altman ja mitmed ettevõtte töötajad kirjutasid direktorite nõukogule kiri, mis hoiatab võimsa tehisintellekti avastamise eest, mis nende sõnul "võib ähvardada inimkonnale." Selle kohta meie enda allikatele viidates kirjutab Reuters.
Just seda kirja nimetati ühe tegurina Altmani vallandamiseni viinud direktorite nõukogu pikas kaebuste nimekirjas. Reutersil ei õnnestunud autoritega isiklikult rääkida ega OpenAI-lt kommentaare saada. Pärast sellist palvet teatas ettevõte aga töötajatele suunatud sisesõnumis teatud projekti Q* (hääldatakse Q-Star) olemasolust.
Mõned OpenAI töötajad usuvad, et Q* võiks olla läbimurre nn üldine tehisintellekt (AGI). OpenAI iseloomustab seda kui autonoomset süsteemi, mis ületab inimesi kõige majanduslikult väärtuslike ülesannete puhul.
Seni saab Q* ühe allika järgi täita matemaatikaülesandeid ainult algtasemel. koolid, kuid selliste testide edukas sooritamine annab teadlastele selle väljavaadete osas suurt optimismi arengut.
Peamine erinevus sellise tehisintellekti vahel seisneb selles, et see suudab seada eesmärke, jaotada keerulised probleemid väikesteks, töötada erinevate probleemidega ja leida lahendusi, võttes arvesse erinevate valdkondade konteksti. Lihtsamalt öeldes võib selline intelligentsus teoreetiliselt asendada kõrgelt kvalifitseeritud spetsialisti, kellel on teadmised, oskused ja suured kogemused.
Teadlased usuvad, et matemaatika on generatiivse AI tipptasemel. Tänapäeval oskab ta hästi kirjutada ja tõlkida, statistiliselt ennustada järgmist sõna ning vastused samale küsimusele võivad olla väga erinevad. Kuid matemaatika vallutamine (kus on ainult üks õige vastus) tähendab, et tehisintellektil on laiemad arutlusvõimed, mis sarnanevad inimese intelligentsusega. Seda saab rakendada näiteks uutele teadusuuringutele, väidavad eksperdid.
Oma kirjas direktorite nõukogule märkisid teadlased tehisintellekti jõudu ja võimalikke ohte. Nad märkisid ka "tehisintellekti teadlaste" erirühma tööd, mille olemasolu kinnitasid arvukad allikad. Meeskond uurib, kuidas optimeerida olemasolevaid AI mudeleid, et parandada nende arutluskäiku ja lõpuks nendega teaduslikku tööd teha, ütles üks inimestest.
Altman juhtis jõupingutusi, et muuta ChatGPT üheks kõige kiiremini kasvavaks tarkvararakenduseks ajalugu ning meelitanud Microsoftilt selliste investeeringute ja arvutusressursse AGI. Vahetult enne vallandamist teatas ta maailma liidrite tippkohtumisel San Franciscos mõningatest "tõsistest saavutustest, mis on kohe nurga taga".
Neli korda OpenAI ajaloos, viimati vaid paar nädalat tagasi, pidin toas olema, kui me justkui lükkame tagasi teadmatuse loori ja läheneme avastuste piirile ning seda teha on kõigi professionaalne au elu.
Sam Altman
Päev hiljem vallandas juhatus Altmani.
Võib-olla on ühel päeval kõik need otsused ja sündmused aluseks raamatule, tervele filmile või isegi ajalooõpikule.
Loe ka AI kohta🤖🧐🤖
- 7 ChatGPT analoogi
- Apple'i inimesed esitlesid AI Pini - ChatGPT-l põhineva ekraanita nutitelefoni asendust
- 8 müüti tehisintellekti kohta, millesse usuvad isegi programmeerijad