AI-hallusinointi
Tekoälyn kontekstissa hallusinointi on suuri kielimalli, joka tuottaa itsevarman vastauksen, joka ei vastaa sen koulutusdataa tai todellisia faktoja. Se tapahtuu, kun malli "keksii" tietoa täyttääkseen tietopuutteita, usein siksi, että auktoritatiivista, jäsenneltyä lähdedataa puuttui tai se oli epäselvää.
Miksi hallusinointi on brändiriski
Tekoälyn hallusinaatiot aiheuttavat vakavia riskejä yrityksille. Suuri kielimalli (LLM) saattaa keksiä myymälällesi väärennetyn alennuskoodin, lainata väärin palautuskäytäntöäsi, liittää kilpailijan ominaisuuden tuotteeseesi tai viitata vanhentuneeseen hintaan. Nämä keksinnöt vahingoittavat asiakkaiden luottamusta ja voivat luoda oikeudellista vastuuta. Perimmäinen syy on yleensä puuttuva tai huonosti jäsennelty data – kun tekoäly ei löydä selkeää, auktoriteettitietoa, se täyttää aukot todennäköisyysarvauksilla. Ensisijainen puolustuskeino on jäsennelty data JSON-LD:n ja tietograafien avulla. Ilmoittamalla tosiasiat selkeästi koneellisesti luettavissa olevissa muodoissa annat tekoälymalleille selkeää, todennettavissa olevaa tietoa, johon viitata sen sijaan, että pakottaisit ne hallusinoimaan vastauksia.
Faktuaalinen tekoälyvastaus vs. hallusinointi
Todellinen vaikutus
Käyttäjä kysyy chatbotilta lopetetusta tuotteesta
Tekoäly hallusinoi: "Tuote X saatavilla, 49,99 $ "
Asiakas tilaa, huomaa totuuden, vaatii hyvitystä
Tuoteskeema sisältää "saatavuus": "Lopetettu"
Tekoäly toteaa oikein: "Tuote X lopetettu"
Asiakas saa tarkat tiedot, tutkii vaihtoehtoja