AI-hallucináció

Miért történik?

A nyelvi modellek nem tényeket keresnek vissza egy ellenőrzött adatbázisból, hanem a tanult minták alapján a legvalószínűbb szöveget állítják elő. Ha a kérdésre nincs megbízható minta, vagy a kérdés hiányos, a modell akkor is „kitölti a hézagot” – nyelvtanilag hibátlan, hihető, de téves válasszal.

Tipikus marketinges példák

• Nem létező statisztika vagy kutatás egy blogcikkben.
• Kitalált idézet egy ismert szakembertől.
• Pontatlan termékjellemző egy termékleírásban.
• Elavult vagy kitalált platformfunkció egy útmutatóban.
• Nem létező URL a forrásjegyzékben.

Hogyan csökkenthető a kockázat?

• Adj forrást: a modell a megadott dokumentumok alapján dolgozzon, ne a saját „emlékezetéből”.
• Kérj forrásmegjelölést, és ellenőrizd, hogy a forrás valóban létezik és azt állítja.
• Emberi ellenőrzés: minden publikálásra szánt tényt, számot és hivatkozást nézzen át egy szakértő.
• Engedd meg a „nem tudom” választ: a promptban jelezd, hogy ha a modell nem biztos valamiben, ezt mondja ki.

A hallucináció nem ritka hiba, hanem a technológia ismert sajátossága – a munkafolyamatot érdemes erre felkészítve kialakítani.