AI halucinācijas: kas tās ir un kā tās novērst?

Kas ir AI halucinācijas?

Piemēram, ja lūgsim AI nosaukt Uzņēmumu reģistra reģistrācijas numurus 20 Rīgas uzņēmumiem, kuru ieņēmumi pieaug, varam saņemt šķietami loģisku un pilnīgu sarakstu, taču… visi norādītie reģistrācijas numuri var būt izdomāti.

Halucinācijām raksturīgs tieši šis šķietamais loģiskums: atbildes izskatās pārliecinošas, un AI neizrāda ne mazāko šaubu. Tāpēc valodu modeļu saskarnēs tiek atgādināts pārbaudīt minētos skaitļus un faktus.

Kāpēc rodas AI halucinācijas?

Halucinācijas parasti rodas trīs gadījumos:

• trūkst datu (galvenais iemesls — modelis min);
• uzvedne nav pietiekami precīza (modelis aizpilda nepilnības);
• uzdevums ir pārāk sarežģīts (modelis cenšas paveikt visu uzreiz).

Problēma nav tikai pašos valodu modeļos — būtiska ir arī piekļuve datiem. Tāpēc halucinācijas nav gluži nejauša un nekontrolējama parādība. Tās rodas noteiktos apstākļos, kurus iespējams mainīt.

Kā novērst AI halucinācijas?

AI halucināciju risku var mazināt, nodrošinot tiešu piekļuvi strukturētiem datiem. Šādā vidē valodu modeļi vislabāk spēj interpretēt informāciju, pieņemt lēmumus un izdarīt secinājumus.

Tieši uz to balstās trīs turpmāk aprakstītās metodes, kuras var izvēlēties atbilstoši savām tehniskajām iespējām.

Datu faila sagatavošana

Gatavu datu nodrošināšana ir vienkāršākais veids, kā praktiski mazināt halucināciju risku. Tā modelim ir mazāk iespēju „piedomāt klāt” trūkstošo informāciju.

Iesācēji nereti uztver valodu modeli kā rīku, kas vienlaikus spēj būt meklētājprogramma, ETL datu plūsma un datu iegūšanas sistēma. Taču, ja uzdevums prasa datus savākt, attīrīt un standartizēt, var tikt pārsniegts modeļa konteksta loga apjoms un halucināciju risks strauji pieaug.

Tāpēc datu vākšanas procesu ir vērts sadalīt vairākās mazākās uzvednēs un ik pa laikam pārbaudīt, vai AI sniegtā informācija atbilst patiesībai. Lai gan tas izklausās garlaicīgi un laikietilpīgi, šādi tiek izveidots drošs pamats darbam, kurā valodu modeļi var parādīt savu īsto potenciālu — strādāt ar pieejamajiem datiem.

API izmantošana

Savienojums ar API ir tehniski sarežģītāks risinājums: tas nodrošina ātrāku un mērogojamāku piekļuvi datiem, kas turklāt tiek regulāri atjaunināti. Ja sagatavots datu fails ir kā ūdens spainis, tad API ir kā piekļuve ūdens krānam.

ChatGPT, Claude un Gemini izmantotā meklēšana daudz neatšķiras no tā, kā informāciju meklē cilvēks. Valodu modeļi pārskata saturu ārējās vietnēs, piemēram, Reddit vai Wikipedia, un pēc tam sniedz atbildi.

Taču šādi nevaram būt droši, ka atrastais saturs ir pareizs un aktuāls. Informācija nāk no dažādiem avotiem, kuros atšķiras datu standarti un publicēšanas datumi, turklāt netrūkst arī cilvēku kļūdu un viedokļu. API palīdz novērst šo trūkumu, nodrošinot programmējamu, pastāvīgu piekļuvi attīrītiem datiem.

Piemēram, Monitly API nodrošina piekļuvi statistikai no visas pasaules, izmantojot tiešus savienojumus ar tādu institūciju datu avotiem kā Latvijas Centrālā statistikas pārvalde, Eurostat, Pasaules Banka (World Bank), Pasaules Veselības organizācija (WHO), Starptautiskais Valūtas fonds (IMF) un daudzi citi. Tādējādi AI nav jāmeklē informācija dažādās vietnēs: tas var nosūtīt pieprasījumu tieši API un saņemt jaunākos datus, kurus pēc tam analizēt un interpretēt.

Savienojums ar MCP

AI pieslēgšana MCP (Model Context Protocol) ļauj valodu modeļiem tieši piekļūt failiem, izklājlapām, kodam un lietotnēm. Tas būtiski mazina halucināciju risku, jo modelim ir pieejami dati, ar kuriem strādāt.

Piemēram, uzņēmumu datu platforma Compabase ir izveidojusi savu MCP, ar kura palīdzību AI var ātri pārbaudīt vietējo uzņēmumu datus. Ja tagad lūgsim AI nosaukt Uzņēmumu reģistra reģistrācijas numurus 20 Rīgas uzņēmumiem ar pieaugošiem ieņēmumiem, izdomātas informācijas vietā varam saņemt saskanīgu, pārbaudītu sarakstu. Tas nenozīmē, ka modelis pēkšņi būtu kļuvis „gudrāks”. Agrāk tam vienkārši nebija piekļuves šiem datiem, bet tagad tas var izpildīt vienkāršu SQL vaicājumu datubāzē un saņemt gatavu rezultātu.

Citiem vārdiem:

Bez MCP:

• daļa uzņēmumu neeksistē;
• finanšu dati ir nejauši;
• reģistrācijas numuri ir izdomāti.

Ar MCP:

• modelis veic vaicājumu datubāzē;
• saņem konkrētus ierakstus;
• vaicājuma rezultāts ir deterministisks.

Protams, halucinācijas pilnībā nepazūd, ja joprojām prasām modelim pārmērīgi apstrādāt un apvienot datus. Taču, ja nodrošinām vidi ar skaidru struktūru, aktuāliem datiem un ierobežotu interpretācijas brīvību, AI pārstāj minēt un sāk analizēt reāli pieejamu informāciju.