AGI - Il sindaco di New York Eric Adams ha difeso l'intelligenza artificiale utilizzata dai servizi municipali finita sotto accusa per aver fornito alle attività commerciali consigli che infrangevano la legge. Lanciato a ottobre come progetto pilota, il chatbot MyCity è stato presentato come un software "affidabile" a cui chiedere consigli su come portare avanti le attività economiche, ma all'atto pratico sarebbe caduto in una serie di errori marchiani e da codice civile. Giornalisti del sito investigativo The Markup hanno segnalato, la settimana scorsa, la presenza di alcune risposte sbagliate fornite agli utenti: in una MyCity considerava valida la possibilità di tagliare le mance ai dipendenti e affermava l'assenza di obblighi del datore di lavoro nel pre-avvertire i dipendenti dei cambiamenti nei turni di lavoro. In entrambi i casi, non era vero.
Inoltre il chatbot ha detto che i negozianti potevano accettare solo pagamenti con carte, in realtà violando una legge municipale che dal 2020 obbliga le attività ad accettare anche i pagamenti in contanti. In un'altra risposta il chatbot non è apparso neanche granché aggiornato: ha parlato di paga minima oraria di 15 dollari, quando da quest'anno è salita a 16.
"Ci sono stati errori - ha spiegato il sindaco - ma li abbiamo risolti. "Ogni volta ti affidi alla tecnologia - ha aggiunto, parlando ai giornalisti - hai bisogno di metterlo alla prova nella vita reale per oliare i meccanismi".
Il chatbot utilizza il sistema Azure di Microsoft e presenta problemi come tutte le intelligenze artificiali, che al momento cadono ancora in contraddizione. Non tutte le risposte, generalmente, sono precise, ma nel caso di attività commerciali la ricaduta degli errori può essere pesante, non solo sulla vita dei diretti interessati, ma anche per motivi legali. Nel frattempo sul sito è apparsa una nuova avvertenza in cui si segnala che il robot "potrebbe fornire a volte risposte non accurate o incomplete" e si invitano gli imprenditori a "non utilizzare le sue risposte come consigli legali o professionali".
Di fatto, senza la certezza dell'affidabilità è consigliabile tenersi alla larga. Adams è sempre stato un sostenitore dell'utilizzo di tecnologie non testate, ma il suo ottimismo non è sempre stato ripagato dai risultati. L'anno scorso il sindaco aveva autorizzato l'impiego alla stazione della metropolitana di Times Square di un robot di quasi duecento chili per dare una mano alla polizia a contrastare il crimine, ma l'esperimento è stato bloccato dopo appena cinque mesi. Centinaia di pendolari avevano segnalato come il robot se ne stesse fermo a non fare niente tutto il giorno e fosse incapace di utilizzare le scale.