Haliucinacija — tai kai dirbtinis intelektas užtikrintai pateikia neteisingą informaciją. Ne suabejoja, ne pasako „nežinau“, o ramiai nurodo neegzistuojantį šaltinį ar išgalvotą skaičių. Tai ne gedimas. Tai tiesioginė technologijos veikimo pasekmė.
Kodėl taip nutinka
Modelis generuoja tikėtiną tekstą, o ne tikrą tekstą. Jei klausiate apie Lietuvos teisės akto straipsnį, modelis „žino“, kaip atrodo tokio straipsnio formuluotė, ir sukuria labai įtikinamą jos versiją. Ar ji egzistuoja — modeliui nėra atskiro klausimo.
Įtikinamumas ir teisingumas modelyje yra du atskiri dalykai. Būtent todėl haliucinacijos pavojingos: jos skamba geriau nei tikri atsakymai.
Kada rizika didžiausia
- Konkretūs skaičiai ir datos. Statistika, kainos, terminai.
- Teisės aktai. Straipsnių numeriai, pataisos, terminai.
- Šaltiniai ir citatos. Knygų puslapiai, tyrimų pavadinimai, autoriai.
- Siauros vietinės temos. Lietuvos savivaldybių tvarkos, konkrečios įmonės.
- Naujausi įvykiai. Ypač jei modelis nesinaudoja internetu.
Kaip patikrinti per pusę minutės
1. Paklauskite dar kartą, kitaip
Užduokite tą patį klausimą naujame pokalbyje kitais žodžiais. Jei atsakymai skiriasi iš esmės — bent vienas iš jų prasimanytas.
2. Paprašykite šaltinio ir jį patikrinkite
„Nurodyk tikslų šaltinį ir nuorodą.“ Tada nuorodą atidarykite. Neveikianti nuoroda arba puslapis be minėtos informacijos — aiškus ženklas.
3. Leiskite abejoti
Pridėkite prie prompto: „Jei nesi tikras, aiškiai pasakyk, kad nežinai.“ Tai nepanaikina problemos, bet pastebimai ją sumažina.
4. Patikrinkite pirminiame šaltinyje
Teisės aktams — e-seimas.lrs.lt. Statistikai — osp.stat.gov.lt. Įmonių duomenims — Registrų centras. Trisdešimt sekundžių, kurios išgelbsti reputaciją.
Kaip sumažinti riziką iš anksto
- Duokite medžiagą patys. Įkelkite dokumentą ir prašykite atsakyti tik pagal jį. Rizika krenta kartais.
- Prašykite cituoti. „Cituok tikslią vietą iš pateikto teksto.“
- Naudokite naršymo funkciją faktams, kurie keičiasi.
- Įsiveskite taisyklę: viskas, kas yra skaičius, data ar teisės norma, tikrinama prieš išsiunčiant.
Haliucinacijos nedingsta, bet jos nustoja būti problema tą dieną, kai patikrinimas tampa darbo įpročiu, o ne papildomu žingsniu.