Najčešći strah od AI-ja u regulisanom radu jeste halucinacija - odgovor koji zvuči autoritativno, ali citira nešto čega nema. Za alat koji se koristi na ugovorima, štetama i medicinskim kartonima, samouveren pogrešan odgovor gori je od nikakvog odgovora. Evo kako je InVerba dizajnirana da to izbegne.
Utemeljenje pre generisanja
InVerba ne odgovara iz opšte memorije modela. Svaki odgovor je izgrađen od delova preuzetih iz vaših sopstvenih dokumenata, a model je ograničen da koristi taj preuzeti materijal. Ako činjenice nema u preuzetim izvorima, ona ne pripada odgovoru. To je najvažnija odbrana od halucinacija: odgovor nema odakle da dođe osim iz vaših dokumenata.
Pragovi pouzdanosti
Preuzimanje nije uvek uspešno. Ponekad arhiva jednostavno ne sadrži ono što je traženo. Kada najbolji preuzeti delovi nisu dovoljno relevantni da podrže odgovor, InVerba ne spušta svoje standarde da bi proizvela nešto tečno - već prijavljuje da nije mogla da pronađe utemeljen odgovor. Tretiranje „ne znam" kao ispravnog odgovora je ono što alat drži poštenim.
Citati koje možete da proverite
Svaki odgovor upućuje nazad na dokument, odeljak i stranu na koje se oslonio. To nije ukras - to je mehanizam koji čoveku omogućava da proveri rezultat za nekoliko sekundi. Odgovor koji možete da proverite je odgovor koji možete da upotrebite u podnesku ili reviziji.
- Odgovori se grade samo iz preuzetih delova vaših dokumenata.
- Pitanja niske pouzdanosti vraćaju pošteno „nije pronađeno" umesto nagađanja.
- Svaka tvrdnja je vezana za imenovani izvor radi provere.
Kompromis koji smo izabrali
Ovako podešen sistem će povremeno odbiti da odgovori na pitanje na koje bi labaviji sistem odgovorio - nekad tačno, nekad ne. Za svakodnevnu potrošačku upotrebu ta opreznost može delovati konzervativno. Za pravo, osiguranje i medicinu, to je upravo pravi podrazumevani izbor. Radije vraćamo manje i budemo od poverenja, nego da vratimo više i pogrešimo.