DI haliucinacija
Įtikinamai skambantis, bet išgalvotas arba neteisingas dirbtinio intelekto atsakymas.
Žodynas · Automatizavimas ir DI
Haliucinacija vadinamas atvejis, kai kalbos modelis pateikia faktą, citatą, nuorodą ar skaičių, kurio nėra. Atsakymas atrodo taip pat užtikrintai kaip ir teisingas, todėl iš paties teksto klaidos neatskirsi.
Tai ne gedimas, kurį galima sutaisyti, o modelio veikimo pasekmė: jis kuria tikėtiną tekstą, o ne tikrina faktus. Riziką galima sumažinti – pateikiant modeliui šaltinius, siaurinant užduotį, reikalaujant nurodyti, kuo atsakymas pagrįstas, – bet ne pašalinti.
Todėl diegiant DI sprendimą verta iš anksto nuspręsti, kokia klaida priimtina ir kas tikrina rezultatą. Santrauka vidiniam naudojimui ir atsakymas klientui apie kainą yra labai skirtingos rizikos užduotys.