Microsoft lancia il bot che riconosce le foto. E stavolta “censura” Hitler

Naviga SWZ: Home Page » News
News del 18 Aprile 16 Autore: Stefano Fossati
Microsoft ci riprova con l’intelligenza artificiale, a poche settimane dal disastroso esperimento di Tay, il chatbot rimosso da Twitter dopo poche ore a causa dei commenti razzisti, sessisti e offensivi postati sul social network, compresi alcuni inneggianti a Hitler e al nazismo. Il nuovo bot si chiama CaptionBot (captionbot.ai) ed è pensato per riconoscere e commentare i contenuti delle immagini: persone sedute a tavola, animali che dormono, luoghi affollati… ma niente Hitler, stavolta.

Realizzato sottoforma di web application, CaptionBot si dimostra in grado di descrivere con una discreta precisione semplici scene di vita quotidiana, ma non riconosce foto del leader del nazismo né il simbolo della sua dittatura, la svastica, restituendo il messaggio “I really can’t descrtibe the picture” (non posso proprio descrivere la foto). Il bot non sembra in grado di riconoscere nemmeno Osama bin Laden, mentre non ha problemi a identificare altri personaggi a dir poco "discussi" come Benito Mussolini, Mao Zedong, Pol Pot o Saddam Hussein e nemmeno altri gerarchi nazisti come i famigerati Joseph Mengele o Joseph Goebbels. Dopo avere fornito il risultato dell’analisi, CaptionBot permette di valutarlo assegnando da una a cinque stelle.

Microsoft lancia il bot che riconosce le foto. E stavolta “censura” Hitler - immagine 1

Microsoft fa sapere di avere implementato alcuni filtri “basici” per prevenire abusi. Nel caso di Tay, infatti, l’intelligenza artificiale del chatbot fu indirizzata verso le affermazioni razziste e “politicamente scorrette” da domande e commenti postati “ad arte” da alcuni utenti per influenzare i suoi algoritmi di autoapprendimento. Tanto da portarlo a twittare commenti deliranti come “Hitler aveva ragione, io odio gli ebrei”.

Le tecnologie di intelligenza artificiale alla base dei bot sono infatti progettate in modo da evolversi nel tempo attraverso la loro interazione con gli esseri umani: una grande opportunità che, come Tay ha evidenziato, può trasformarsi in un rischio ancora più grande se non vengono posti in essere adeguati filtri e regole che impediscano derive imprevedibili. Il che non mette i programmatori al sicuro da accuse di segno opposto: i filtri applicati da Microsoft a CaptionBot, per esempio, potrebbero comportare per la casa di Redmond accuse di censura arbitraria sui contenuti analizzati.

Microsoft lancia il bot che riconosce le foto. E stavolta “censura” Hitler - immagine 2

Oltre a Microsoft, altri colossi tecnologici come Google e Facebook stanno investendo molto sullo sviluppo dell’intelligenza artificiale. E i risultati sono in parte già visibili, ad esempio nel modo in cui Google Foto classifica e archivia le immagini caricate, proponendo all’utente album monotematici su persone o eventi, o nei suggerimenti di Facebook sulle persone da “taggare” nelle foto.
Inserisci un commento sul forum Commenta la News sul Forum

Voto:

Categoria: P2P e Web

La Community di SWZone.it

La community con le risposte che cerchi ! Partecipa é gratis !
Iscrizione ForumIscriviti al Forum

Newsletter

Vuoi ricevere tutti gli aggiornamenti di SWZone direttamente via mail ?
Iscrizione NewsletterIscriviti alla Newsletter

NOTIZIE CORRELATE