Tehisintellekti "hallutsinatsioonid" ohustavad reisijaid
Absurdsed ja ohtlikud näited:
Olematu Püha Kanjon Peruus: Reisibüroo asutaja Miguel Angel Gongora Meza kuulis Peruus, kuidas kaks turisti plaanisid minna Andidesse “Püha Humantay kanjonisse” (Sacred Canyon of Humantay), mille olemasolu oli ChatGPT neile kinnitanud. Tegelikkuses oli see nimi kahe koha kombinatsioon, millel polnud kirjeldatud teekonnaga mingit seost. Turistid maksid 160 dollarit ja jõudsid ilma giidita ohtlikusse kohta. Meza hoiatab kõiki, et kõrged ja raskesti ligipääsetavad mäed vajavad reaalset planeerimist – väljamõeldud fantaasia järgimine võib tuua 4000 meetri kõrgusel ja ilma levita kaasa eluohtliku olukorra.
Kõisraudtee sulgemine Jaapanis: Dana Yao ja tema abikaasa kasutasid ChatGPT-d, et planeerida romantilist matka Jaapanis Mount Misenile. AI juhendas neid päikeseloojanguks mäe otsa, kuid andis vale viimase köisraudtee tööaja. Nii jäid nad kell 17:30 suletud jaama juures mäetippu lõksu.
Pariisi vaatamisväärsused mujal: Reisija sai AI-lt soovitusi maratoni jaoks Itaalias, mis oli täiesti ebamõistlik ja ta oleks veetnuks rohkem aega bussides kui jooksurajal. Samuti on teatatud juhtumitest, kus AI on pakkunud reisikavasse kirjutada: “Külasta Eiffeli torni Pekingis”.
Miks AI “hallutsineerib”?
Põhjus peitub selles, kuidas suured keelemudelid (LLM) nagu ChatGPT töötavad. Nad analüüsivad massiivset andmehulka ning panevad kokku sõnu ja lauseid, mis tunduvad statistiliselt sobivad ja usutavad.
Carnegie Meloni Ülikooli masinõppe professor Rayid Ghani selgitas, et AI ei tea vahet reisijuhisel, suunisel või toiduretseptil – tehisaru teab vaid sõnu. Kui AI-l pole kindlat fakti, mõtleb ta lihtsalt usutava vastuse välja, esitades selle samasuguse enesekindlusega nagu faktipõhise info. Nii võib AI ajada segamini nelja tuhande meetrise jalutuskäigu samakõrge mäe otsa ronimisega.
Kuigi AI pakub reisimarsruutide koostamisel tänuväärset abi, peavad reisijad tehisaju genereeritud reisiplaanid alati üle kontrollima ja tegema seda reaalsetele allikatele toetudes, kuna usutavana tunduv jutt ei ole ilmtingimata tõde.
Nii, ja kus on püramiid?
