Rannsókn sem gerð var af Texas-háskóla, Texas A&M-háskóla og Purdue-háskóla bendir til þess að gervigreindardrifin tungumálalíkön geti þróað einkenni sem líkist svonefndri „heilarotnun“ þegar þau eru þjálfuð með ruslefni sem er algengt á samfélagsmiðlum.
Hugtakið „heilarotnun“ var valið af Oxford-háskóla sem orð ársins 2024 og lýsir versnandi andlegu eða vitsmunalegu ástandi einstaklinga sem neyta of mikils af léttvægu efni á samfélagsmiðlum. Niðurstöður rannsóknarinnar sýna að gervigreindarspjallmenni, sem eru þjálfuð á þessum „léttvægu efnum“, eiga í erfiðleikum með að finna réttar upplýsingar og draga rökstuddar ályktanir.
Upphafsmaður rannsóknarinnar, Zhangyang Wang, prófessor, vildi kanna hvaða áhrif það hefði ef tungumálalíkön væru fóður sett á efni sem samfélagsmiðlar nota til að halda athygli notenda. Wang og samstarfsmenn hans söfnuðu um milljón færslna frá samfélagsmiðlinum X (fyrrum Twitter) og notuðu þær til að þjálfa gervigreindarlíkön með opnum hugbúnaði.
Þeir notuðu stuttar en vinsælar færslur, oft með yfirskriftum í æsifréttastíl, þar sem orð eins og „Vá!“ eða „Bara í dag!“ voru algeng. Líkanin sem voru notuð í rannsókninni voru Llama 3 frá Meta og þrjár útgáfur af rökfærslulíkaninu Qwen frá Alibaba.
Niðurstöður rannsóknarteymisins sýndu að eftir þjálfunina slepptu gervigreindarlíkönin ákveðnum skrefum í rökleiðsluferli sínu, eða létu rökleiðsluna alveg liggja. Þetta leiddi til þess að gervigreindin veitti í auknum mæli rangar upplýsingar eða valdi rangt svar þegar hún var beðin um að velja milli svarmöguleika.
Rannsóknarteymið reyndi einnig að greina persónuleikaeinkenni gervigreindarinnar með því að spyrja spjallmennin spurninga úr listum sálfræðinga. Í tilfelli Llama sýndi spjallmennið aukin merki um siðblindu eftir því sem það var þjálfað á meira rusluupplýsingum.
Mehwish Nasim, gervigreindarfræðingur við Vestur-Australíuháskóla í Perth, sagði í viðtali við vísindatímaritið Nature að niðurstöður rannsóknarinnar styðji eina af grunnreglum gervigreindarinnar, að gæði upplýsinga skipti máli. „Jafnvel áður en fólk byrjaði að vinna með stór tungumálalíkön, sögðum við að ef maður gefur gervigreindarlíkani rusl, þá framleiðir það rusl,“ sagði Nasim.
