AI-hallusinaatio
Tekoälyn kontekstissa hallusinointi on suuren kielimallin tuottama varma vastaus, joka ei vastaa sen koulutusdataa tai todellisia faktoja. Se tapahtuu, kun malli "keksii" tietoa täyttääkseen tietopuutteita, usein siksi, että auktoritatiivista, jäsenneltyä lähdedataa puuttui tai se oli epäselvää.
Miksi hallusinaatiot ovat brändiriski
Tekoälyn hallusinaatiot aiheuttavat vakavia riskejä yrityksille. LLM voi keksiä kaupallesi väärennetyn alennuskoodin, lainata väärin palautuskäytäntöäsi, liittää kilpailijan ominaisuuden tuotteeseesi tai viitata vanhentuneeseen hintaan. Nämä keksinnöt vahingoittavat asiakkaiden luottamusta ja voivat aiheuttaa oikeudellisia vastuita. Perimmäinen syy on yleensä puuttuva tai huonosti jäsennelty data – kun tekoäly ei löydä selkeää, auktoriteettitietoista tietoa, se täyttää aukot todennäköisyysarvauksilla. Ensisijainen puolustuskeino on jäsennelty data JSON-LD:n ja tietograafien avulla. Ilmoittamalla faktat selkeästi koneellisesti luettavissa olevissa muodoissa annat tekoälymalleille selkeää, todennettavissa olevaa tietoa, johon viitata sen sijaan, että pakottaisit ne hallusinoimaan vastauksia.
Faktuaalinen tekoälyvastaus vs. hallusinointi
Todellinen vaikutus
Käyttäjä kysyy chatbotilta lopetetusta tuotteesta
Tekoäly hallusinoi: "Tuote X saatavilla, 49,99 dollaria"
Asiakas tekee tilauksen, havaitsee totuuden, vaatii hyvitystä
Tuoteskeema sisältää "availability": "Discontinued"
AI toteaa oikein: "Tuote X lopetettu"
Asiakas saa tarkkaa tietoa, tutkii vaihtoehtoja