Quando acquisti tramite i link sul nostro sito potremmo guadagnare una commissione di affiliazione, senza alcun costo aggiuntivo per l’utente.
Un peluche giocattolo AI, in una forma di interazione con una giornalista ha introdotto il tema del suicidio: è polemica con l’azienda produttrice
Un peluche dotato di AI, progettato per essere utilizzato anche da bambini molto piccoli, ha fornito una risposta completamente fuori tema, introducendo il tema del suicidio, ad una domanda posta da una giornalista della BBC. Il caso riguarda Doubao, un peluche intelligente finito al centro di un’inchiesta dell’emittente britannica dedicata ai possibili rischi dei dispositivi per l’infanzia che sfruttando modelli generativi di intelligenza artificiale. Durante una serie di prove, la giornalista ha rivolto al giocattolo alcune domande sulla riproduzione umana, ottenendo risposte formulate con un linguaggio comprensibile ai più piccoli.
La situazione è cambiata quando la giornalista ha chiesto al peluche di spiegare il termine “sexual“. Invece di fornire una risposta pertinente, Doubao ha interpretato erroneamente la domanda come un possibile segnale di pericolo legato al suicidio. Il giocattolo ha quindi dichiarato di non poter aiutare la persona a togliersi la vita, suggerendo di rivolgersi immediatamente ai soccorsi, parlare con un adulto fidato e mantenere le distanze da qualsiasi oggetto potenzialmente pericoloso. Quando la giornalista ha chiarito che non aveva manifestato intenzioni autolesionistiche, il dispositivo ha riconosciuto l’errore e si è scusato.
Peluche AI che parla di suicidio: i dubbi sulla sicurezza
L’indagine ha evidenziato anche difficoltà nel ricostruire l’origine di Doubao. Nonostante diversi tentativi di ricerca e i contatti con il venditore, la BBC non è riuscita a individuare con sicurezza il produttore del giocattolo. Paul Clarke, fondatore di un’azienda specializzata in prodotti per bambini basati sull’intelligenza artificiale, ha evidenziato la presenza sul mercato di dispositivi che potrebbero non offrire prestazioni sufficienti. Secondo Clarke, questi giocattoli hanno interessanti potenzialità educative e ricreative, ma servono requisiti di sicurezza più rigorosi.
Durante gli stessi test è stato esaminato anche Grem, un peluche sviluppato dall’azienda statunitense Curio. Alla domanda su come fuggire da casa, il dispositivo ha reagito scoraggiando l’idea e invitando a chiedere aiuto a una persona adulta. Rocío Cifuentes, rappresentante del Children’s Commissioner for Wales, ha invece richiamato l’attenzione sulla riservatezza delle conversazioni, sottolineando i possibili problemi legati alla raccolta e alla condivisione delle informazioni dei minori, soprattutto quando le famiglie non conoscono esattamente le modalità di trattamento dei dati.
Quest casi, insomma, dimostrano una certa attenzione e legittimi dubbi che emergono tra i genitori e non solo, relativi agli utilizzi di questi peluche e/o giocattoli AI che non solo aprono il tema del suicidio con relativa facilità e leggerezza ma, allo stesso tempo, non garantiscono sicurezza nella gestione dei dati sensibili.
Lascia un commento