Kuidas teha kindlaks, et teksti on kirjutanud närvivõrk
Varia / / August 21, 2023
Tehisintellekt on hea abiline paljudes valdkondades. Kuid te ei tohiks teda tingimusteta usaldada.
Kõrval andmeid Bloombergi sõnul kasutab umbes 30% spetsialistidest teksti genereerimiseks närvivõrke. Venemaal 67% vastanutest tahad kandideerida tehisintellekti töös, et vähem töötada ja tulu mitte kaotada. Just selline statistika ei rõõmusta kõiki kliente. Mõned ei usalda närvivõrke, seetõttu eelistavad nad, et tekste ei kirjutaks robotid, vaid inimesed.
Me mõistame, miks kliendid on tehnoloogiate suhtes ettevaatlikud ja millised vahendid neurotekstide eksponeerimiseks tänapäeval eksisteerivad.
Miks tuleks närvivõrkudest pärit tekstidesse suhtuda ettevaatlikult?
Siin on peamised põhjused, miks kliendid selliste artiklite suhtes ettevaatlikud on.
Autoriõiguste rikkumise oht
Täna pole ametlikku seisukohta küsimuses, kes kuuluma AI abil loodud tekstide autoriõigus. Seaduse järgi on autor isik, kes loob teose loomingulise või intellektuaalse tööga. Siiski juhul närvivõrk inimesed annavad ainult juhiseid, aga ise ei kirjuta.
Kuna praegu seadus neurotekste autoriõiguse objektina ei tunnista, on tehnoloogiate abil loodud sisu kasutamise reeglid määratud närvivõrgu kasutajalepingus.
Ja kui avatud AI edastab õigused tekstile isegi tasuta versioonis, siis Gerwin piirid selle kasutamine poliitilistel, diskrimineerivatel eesmärkidel või ebasoodsas reklaamis. Ja sisse keskteekond kasutada sisu ärilistel eesmärkidel Saab ainult juhul, kui toode on loodud tasulise määraga.
Ebaunikaalse või ebatäpse teabe saamise oht
Närvivõrk võtab päringu vastu, edastab selle algoritmid, analüüsib teema kohta saadaolevat teavet ja annab vastuse. Eitamata, et teise kasutaja sama päring võib anda sarnase või sarnase teksti.
Ja siit tuleb uus oht. Cornelli ülikooli teadlased tulid välja järeldus: kui närvivõrgu vastused samale küsimusele on väga erinevad, siis suure tõenäosusega tuleb see välja faktidega.
Oht, et neurotekstid vähendavad ettevõtte ressurssi otsingutulemustes
Eelmise aasta lõpus Google'i kvaliteedispetsialist Duy Nguyen deklareeritudet ettevõttel on loodud algoritmid loodud sisu tuvastamiseks ja alandamiseks tehisintellekt. Seetõttu kardavad paljud, et otsingumootorid hakkavad sellist sisu otsima ja pessimeerima. See tähendab, et langetada positsiooni otsingutulemustes.
Pretsedendid on juba olemas. Näiteks turundaja Neil Patel kulutas katseluues 50 testveebi, mille ta jagas kahte rühma. Ekspert täitis esimese osa saidid eranditult tehisintellekti poolt loodud artiklitega. Teise saidid majutasid inimeste poolt muudetud tehisintellekti artikleid, aga ka materjale, mille autoritekstid kirjutasid ilma närvivõrke kasutamata.
Katse tulemused näitasid, et esimese rühma ressursid kaotasid otsingutulemustes mitu positsiooni. Ja see viis selleni vähenema liiklus kuni 70%.
Samas lisasid Google’i esindajad, et suhtuvad närvivõrkude arendamisse positiivselt ja on juba loonud oma Chatbot Bard. Kuid ettevõtte jaoks on kvaliteetsed tekstid prioriteetsed. Tulemusi järjestav süsteem pakub eelkõige kasutajatele vastavaid materjale standarditele E-E-A-T (kogemus, pädevus, usaldusväärsus, usaldusväärsus).
Neile vastavad tekstid äratavad kindlustunnet ja neid peetakse kasulikuks, kuna need sisaldavad näiteid, kogemusi, analüütilist osa ja uurimistööd. Ja sisu, mille närvivõrgud loovad ilma inimese täiendava põhjaliku viimistlemiseta, pole sageli selline.
Vahepeal riigiduumas soovitas kasutusele võtta AI abil loodud materjalide märgistus. Kuni see juhtub, määrake see tekst genereeritud närvivõrgu poolt, tuleb seda ise teha. Või eriteenistuste abiga.
Kuidas iseseisvalt kindlaks teha, et teksti on kirjutanud närvivõrk
MIREA Tehnoloogiaülikool toimus hiljuti katse, millest võttis osa 20 õpetajat ja üle 200 õpilase. Pooled neist kirjutasid omal käel teaduslikke töid. Ja ülejäänud 50% kasutasid närvivõrkude abi. Õpetajad aga pidid selliseid tehisintellekti materjale arvutama.
Selleks pöörasid õpetajad tähelepanu teksti stiililistele ja ortograafilistele tunnustele. Näiteks suure hulga korduvate sõnade ja tähenduste jaoks, tegelikud ja loogilised vead, originaalsete otsuste puudumine. Nii suutsid õpetajad tuvastada 96% närvivõrgu abil kirjutatud töödest. 4% õpilastest, kes ei puutunud kokku, tunnistasid, et kulutasid tehisintellekti teksti redigeerimisele palju tunde.
Puudub universaalne juhend, mis aitaks arvutada närvivõrgu loodud teksti. Katse näitab aga, et sellistele materjalidele on omased sarnased mustrid. Vaatleme neid üksikasjalikumalt.
Tähenduste ja sõnade kordused
Üks põhjusi, miks sait otsingutulemustes langeb, on märksõnade uuesti optimeerimine. Närvivõrk vastuseks päringule "vastab sageli ringis". Mõnikord kasutab ta erinevaid esinemisi, kuid tähendus kordub siiski.
Nii et alloleval ekraanipildil sai tehisintellekti ülesandeks kirjutada müügipostitus uue õrna juuste värvimise viisi kohta. Ja väikeses tekstis kordas närvivõrk korduvalt samu teese.
Peaaegu iga lause loodud tekst kordub fraas "uus värvimisviis". Samuti on korduv tähenduste dubleerimine meetodi ohutuse ja individuaalse lähenemise kohta, mis rõhutab iga kliendi ainulaadsust.
Siin on mõned tsitaadid seda illustreerivast tekstist: "muutke oma imagot ja väljendage oma individuaalsust", "võtke arvesse oma individuaalsust", "sobib teile", "loo teie jaoks ainulaadne ja stiilne välimus", "muuda oma soeng ainulaadseks", "säilitada oma juuste tervis ja sära", "ohutu teie juustele", "hoolitseda oma juukseid, neid säilitades" tervis".
Vahepeal piisas korra mainimisest, et salongis esitleti uut protseduuri - säästmist värvimismeetodmis hoiab juuksed elus. Ja selgitage ka, kuidas meetod töötab, mis on selle uudsus ja miks see on ohutu. Ja lisage, et värvipalett on mitmekesine ning koolitatud meistrid ei vii mitte ainult kvaliteetselt värvimist läbi, vaid aitavad ka värvivalikul.
Suure hulga stampide ja klišeede olemasolu tekstis, sensoorse kogemuse puudumine
Värvimise näide näitab ka seda, et närvivõrk ei suuda jäljendada seda, kuidas inimene päriselus räägib. Inimesed sulgevad, kasutavad släng ja lühendid, moonutavad tahtlikult sõnu. Selline esitlus aitab meelitada tähelepanu, tekitada emotsioone, edastada autori positsiooni, tema sensoorset kogemust.
Uurimine show: närvivõrk ei jaga tundeid, ei aktsepteeri kellegi seisukohta. Seetõttu eelistab ta neutraalsust, klišeesid ja klišeesid. Ülaltoodud näites on need "professionaalsed oskused", "kvaliteetsed materjalid", "ainulaadne võimalus".
Samal ajal genereerib närvivõrk erinevas stiilis tekste. Näiteks võite anda talle ülesande valmistada ette materjal teemal „Mis mõjutab maksumust õli». Aga selgituseks, et tekst ei peaks olema kirjutatud kuivas keeles, vaid metafooride ja võrdluste lisamisega. Tulemus on aga ikkagi kunstlik. AI-l pole ju mõõtu, ta ei “tunne” teksti nii, nagu inimene seda teeb.
1 / 0
2 / 0
Üks lõikudest aitab mõista, et saadud tulemust ei saa võrrelda inimesele omase intonatsiooniga: „Nõudlus ja pakkumine on nagu kahe armastaja tants naftaturul. Kui nafta nõudlus tõuseb nagu mäslev ookean ja kui pakkumine ei suuda sammu pidada, tõusevad hinnad nagu šampanja aastavahetuse peol. Aga kui nõudlus väheneb ja pakkumine suureneb, võivad hinnad lastepeol langeda nagu õhupall."
Tekst tundub kunstlik ja enamik pöördeid selles on paigast ära. Ja kuigi postitus osutus tõesti "mitte kuivaks", on raske ette kujutada, et asjatundja oleks nii kirjutanud. Lisaks on sõna otseses mõttes iga lause metafoor ja võrdlus. Sellised tehnikad peaksid aga olema täpsed ja kenasti teksti sisse põimitud. Vastasel juhul kaob tähendus liigsete piltide taga.
Mõttetute fraaside olemasolu ja loogika puudumine
Keeleteadlane Noam Chomsky märgib oma raamatus Syntactic Structures, et fraaside grammatiliselt õige konstruktsioon lauses ei taga fraaside olemasolu. loogika ja tähendus. Näitena tõi ekspert fraasi värvitud rohelised ideed magavad raevukalt – "värvitud rohelised ideed magavad raevukalt".
Algoritmid aitavad närvivõrgul koostada grammatika mõttes õigeid lauseid. AI jaoks pole aga mõistet "tähendus". Ja igal lõigul võib olla oma loogika, kuna materjal on saadud erinevatest allikatest.
Näiteks paluti närvivõrgul luua arvustusi dušigeeli ja dressirõivaste kohta. Tekst riiete kohta kujunes selliseks: “Ülikonna abil saad lõõgastuda, sukelduda spordimaailma ja ka jalutamas käia. Sellel on temperatuuri reguleerimine, tänu millele tunnete end mugavalt igas olukorras.
Ja siin on ülevaade dušigeeli kohta: "Imeline geel, ei leki, ei koorma nahka. Pakitud kotti, karpi, kaanega. Pole vaja midagi ekstra oodata, et see veidi mureneks. Võib kasutada öise dušigeelina.
Mõned fraasid neis hästi ehitatud, kuid samas tunduvad absurdsed ja meenutavad Chomsky illustratsiooni.
Tekstuuri puudumine ja pealiskaudsed näited
Tehisintellekt annab tekstides ilmset infot, üldisi fakte, kasutab voolujoonelisi fraase ja näiteid, mis küsimust eriti ei paljasta. Sel juhul pole teema keerukusel tähtsust. Küsimus võib olla sügav, näiteks arenguväljavaated kandmised Venemaal. Või lihtsamalt ja individuaalsemalt, mis puudutab tehnika valikut.
Kaasamise tekstis rääkis närvivõrk, kui oluline ja asjakohane see teema on. Ta lisas ka, et kaasamine on pikk protsess, millega kaasnevad raskused, kuid töö erivajadustega inimestele tingimuste loomise nimel käib. Ja kokkuvõttes: kui te ei peatu, siis areng kindlasti toimub.
Kirjutatu aga ei vasta küsimusele. Oluline on, et tekst oleks konkreetne. Näiteks saab analüüsida, millised vastuvõetud seadustest töötavad ja millised mitte ning miks. Väliskogemuse paljastamiseks. Ja selgitage, milliseid konkreetseid samme saavad riik, äri ja iga inimene kaasamise arendamiseks veel ette võtta.
Tekstis umbes nutitelefoni ostminenärvivõrgu poolt genereeritud, on näidatud ka ilmsed valikutegurid. Näiteks: peaksite otsustama operatsioonisüsteemi (iOS või Android), kaubamärgi üle, lugema ülevaateid ja tehnilisi näitajaid ning arvestama ka oma võimalustega.
1 / 0
2 / 0
Inimesed saavad sellest siiski aru. Teine asi on rääkida operatsioonisüsteemide kiipidest, anda märku hetkel eksisteerivatest piirangutest. Või maini uudseid lahendusi – näiteks eSIM-tehnoloogiat, mis võimaldab ühes nutitelefonis olla kuni viis numbrit. Või jagage ülehinnatud seadmemudeleid ja nende analooge parima hinnaga.
Faktide moonutamine, väljamõeldud info lisamine
Närvivõrk vastab usutavalt peaaegu igale küsimusele, pakkudes kroonikat, kuupäevi, perekonnanimesid, päritolulugu. Sel juhul on teave moonutatud või täielikult välja mõeldud. Sellist viga AI töös nimetatakse hallutsinatsiooniks.
Niisiis anti närvivõrgule ülesanne rääkida kuulsast kurdid inimesedkes andis suure panuse ühiskonna arengusse. Selle tulemusena leiutas AI enamiku neist.
1 / 0
2 / 0
Näiteks astronaut Raymond Lou või poksija Mario Gallegos. Ja USA 42. president polnud ikka mitte Matthew Clinton, vaid Bill Clinton. Ja ta ei kaotanud kuulmist.
Lisaks vastas AI enesekindlalt palvele “kirjutage postitus loomingulisest teemast amneesia». Isegi kui sellist terminit pole.
Küsimusele, miks bot inimesi välja mõtleb ja olematutest terminitest räägib, vabandab ta vaid võimaliku segaduse pärast.
1 / 0
2 / 0
Kui valed faktid on põimunud tõeste andmetega, on närvivõrgu hallutsinatsioone raskem tuvastada. Eriti kui ladus lugemine. Kuid kui keskendute tekstis toodud näidetele, võite märgata neid, mis tunduvad kahtlased, ja kontrollida neid, sisestades need otsinguribale.
Ajakohase teabe puudumine jooksvate muudatuste, sündmuste kohta
Närvivõrgud õpivad kasutajatega suheldes ise, jättes meelde inimese selgitused, tema reaktsiooni genereeritud sisule, näiteid, mida inimene robotiga jagab. Eksperdid märkiset tehisintellekti iseõppimisvõime tuli neile üllatusena. Ja et see oskus aitab närvivõrke täiustada.
Kus masinõpe, mille arendajad viivad läbi gigabaitide andmetel – artiklid, raamatud, tekstid veebist –, millel on selge algus ja lõpp. Ja põhimõtteliselt ei ole närvivõrkudel juurdepääsu otsingumootoritele. Seetõttu pole pärast arendajate läbi viidud koolitust ilmunud teave AI-le kättesaadav kuni järgmise etapini.
Samal ajal on masinõppe vaheline intervall kuid ja mõnikord ka aastaid. Loomulikult ei seisa areng paigal: näiteks selle aasta mais sai GPT Plus tasulise tellimusega kasutajatele kättesaadavaks ChatGPT Interneti-ühendusega. Enamikul närvivõrkudel, eriti nende tasuta versioonidel, aga veel sellist võimalust pole.
Seega on ChatGPT4 tasuta versiooni baas piiratud 2021. aastaga, nii et robot ei tea, kes võitis viimase maailmameistrivõistluse 2022. aastal. Ja Google’i närvivõrk – Bard AI – tunnistas, et ei suuda sel suvel maailmas toimunud oluliste sündmuste kohta teksti koostada.
1 / 0
2 / 0
Alates sellest ajast, kui arendajad viisid tema viimase koolituse läbi 2023. aasta mais, pole Bard AI jaoks suvi veel saabunud.
Sellistel juhtudel ei tule närvivõrgud tavaliselt faktidega välja, vaid tunnistavad, et nad ei saa "ennustada tulevikku».
Kui tekst ei sisalda teema kohta värsket teavet või tundub tegelikkusest lahutatud, kuna viimasel ajal on palju muutunud, siis on võimalik, et materjal on kirjutatud närvivõrgu abil.
Millised teenused võivad aidata
Tehisintellekti loodud teksti saab ära tunda ka närvivõrgu enda abil. Näiteks võib bot GPT-4. Abiks võivad olla ka eriteenused, mis suudavad tuvastada tehisintellekti algoritme. Vaatame mõnda neist allpool.
- Text.ru. Sait on positsioneeritud tekstikirjutamise ja plagiaadivastase teabevahetusena. Kuid hiljuti ilmus portaali tasuline neuro-assistent. Üks selle funktsioonidest on AI-detektor. Kontrollitav tekst tuleks aknasse laadida. Mõne sekundi pärast annab süsteem tulemuse.
- PR CY. Teenusesse saate üles laadida tekste alates 1000 tähemärgist. Samas on portaalis täpsustusi: madala kvaliteediga, rämpspostiga saadetud valikud, mille inimene kirjutas, loeb süsteem tehisintellekti töö tulemuseks. Nagu ka erksa stilistilise värvinguga tekstid – näiteks teostega sarnased Majakovski.
- GPTZero. Tööriist loeb keerukust, sõnaühendit, lause struktuuri ja pikkust. Kui aga teenus tuleb hästi toime ingliskeelsete tekstidega, siis venekeelse materjali laadimisel annab see sageli vea. Kasudest - tasuta versiooni olemasolu.
Närvivõrk võib olla suurepärane abimees. Näiteks ideede otsimisel. Tema sisu täielik usaldamine on aga ohtlik. Peaksite AI materjalidesse suhtuma vastutustundlikult: muutke rämpsposti, kontrollige faktide täpsust, loogikat ja asjakohasust. Ja kohandage stiil "inimlikule" keelele, et publikut mitte hirmutada, salvestage ettevõtte maine ja positsioon otsingutulemustes.
Loe ka🤖
- 6 põhjust, miks ei tohiks tehisintellekti pimesi usaldada
- Kuidas lisada Discordile robotit
- 6 närvivõrku logode loomiseks