La branca della ricerca che lega linguistica, informatica e statistica con il fine di progettare modelli comunicativi che riproducano il linguaggio naturale è detta Natural Language Processing (NLP).
Non disponendo di abbastanza carta e penna, né di tempo in una sola vita, i suddetti calcoli e le etichettature necessari per il NLP vengono spesso effettuati da programmi basati su algoritmi precostruiti, attraverso un meccanismo di machine learning, che permette al bot di apprendere, più o meno automaticamente dagli input che riceve, secondo date istruzioni.
Il machine learning è oramai, che lo sappiate o meno, parte integrante delle nostre vite.
Un esempio su tutti è l’autocorrettore per tastiera degli smartphone, che riesce ad intuire cosa vogliamo dire quando digitiamo i tasti errati – cosa molto comune in mancanza di polpastrelli a punta – e che addirittura anticipa le parole che seguiranno quella appena scritta. In questo specifico caso, il programma registra i termini che utilizziamo più spesso, in modo da riproporli quando ci ritroveremo a parlare di argomenti simili (tranquilli: si possono eliminare dalla cronologia! …ma questo lo saprete già).
Ovviamente, quello che il programma apprende dipende dalle regole fornitegli dai programmatori e dagli input ricevuti, nel caso dei chatbot dalle interazioni linguistiche con gli utenti.
Per questo motivo, se il bot, per esempio, riceve messaggi gratuitamente offensivi, molto probabilmente assumerà un atteggiamento aggressivo anche in contesti totalmente inopportuni. Un esempio molto poco politicamente corretto degli effetti che può avere una “cattiva” interazione con un chatterbot in fase di apprendimento è Tay. Rilasciato nel Marzo 2016 da Microsoft, Tay era una simpatica e dolce signora-bot che comunicava su Twitter, interagendo con i commenti postati da altri utenti.
Dopo poche ore di vita, invece di essere alle prese con l’allattamento, Tay già postava messaggi di natura xenofoba, omofoba e nazista.
Sebbene da un lato se ne possa apprezzare la coerenza di pensiero, non avendo Tay mai negato di aver detto ciò che ha detto, come è invece solito fare qualche human-bot non abituato a prendersi la responsabilità delle proprie parole, dall’altro è impossibile negare che tali espressioni possano gravemente ferire le persone. Per questa ragione Microsoft dovette scusarsi per l’accaduto e rimuovere l’account Twitter di Tay, accusando gli hacker di averla attaccata con una enorme quantità di “input negativi”.
Proprio per evitare situazioni similmente spiacevoli, oggigiorno si bada bene a non lasciare attivo (o quanto meno incontrollato!) l’algoritmo NLP di machine learning successivamente al rilascio del bot.
Per questo motivo sono nate altre forme di apprendimento continuo, come il Reinforcement Learning o l’Interactive Learning, basate sul concetto di ricompensa. Il principio è esattamente lo stesso di quando il vostro cane o compagno si mette a cuccia al vostro comando, e gli tirate i croccantini: in questi tipi di apprendimento il bot fa svariati tentativi, partendo dal più ovvio per lui (cioè quello che ha ritrovato più volte nel corpus che gli era stato dato in pasto), per rispondere alla richiesta, imparando che la strada giusta in quel contesto è quella che gli permette di ricevere una ricompensa.
… Leggi parte 2 …Leggi parte 4
