Perché Facebook insegna ai chat bot a mentire?

Il team di Facebook che si occupa della ricerca sull’intelligenza artificiale (FAIR) sta a tutti gli effetti insegnando ai chat bot a mentire, imitando il comportando degli esseri umani.

Chat bot

Per chi non li conoscesse, i chat bot sono tutti quei sofisticati software con i quali ci troviamo a dialogare su siti commerciali e tante altre piattaforme web, come ad esempio l’assistente virtuale M da poco lanciata sulla chat Messenger proprio da Facebook.
Mentre altri colossi come Google, Apple, Amazon e Microsoft compiono gli stessi esperimenti per rendere il dialogo tra macchine e umani sempre più “reale” (come nel caso di Nadine: il primo umanoide dotato di personalità), cerchiamo di capire perché è così importante che un robot sappia bluffare.

L’esperimento di Facebook sui Chat Bot

Il test di Facebook si è svolto su un campione di 5.808 conversazioni intrattenute dagli utenti con i chat bot in cerca di aiuto e assistenza, per effettuare ordinazioni o acquisti o con il servizio clienti automatizzato in generale. L’obiettivo dei ricercatori del Fair era quello di insegnare alle intelligenze artificiali ad intavolare una trattativa con le persone in carne ed ossa su oggetti comunemente acquistati online come libri, cappelli e molto altro. Ad ogni prodotto hanno così corrisposto un punteggio ed è stato interessante vedere come i bot allenati a mentire abbiano saputo mercanteggiare e dire bugie agli utenti, proprio come avremmo fatto noi.
Mike Lewis, ricercatore del team Fair ha infatti sottolineato che “i bot migliori hanno fatto registrare abilità paragonabili a quelle umane e uno dei loro più grandi vantaggi è la pazienza infinita e la determinazione”.

Chat bot capaci di dire bugie

Le persone spesso non si sono nemmeno rese conto che la sfida per accaparrarsi quell’oggetto stava avvenendo con un’intelligenza artificiale. Le macchine allenate da Facebook hanno infatti iniziato a creare frasi che non gli erano state insegnate, anticipando così le mosse dell’avversario umano. Assistere alla performance di un bot che è arrivato addirittura a bluffare con l’umano, fingendo interesse per un oggetto per poi catalizzare l’attenzione verso il prodotto realmente desiderato solo sul finale, ha di fatto stupito i ricercatori stessi e fatto funzionare a pieno l’esperimento.

Forse non siamo poi così lontani dal giorno in cui potremo addirittura sposare un robot!

Tags: chatbot, facebook, intelligenza artificiale, robot