okayduckyachtclub.xyz

Microsoft pubblica un codice di condotta per l’intelligenza artificiale

Guide

L’estrema sintesi? La macchina deve sempre restare sotto controllo umano

Un’intelligenza artificiale deve poter essere spenta. Sempre. Non deve opporsi a chi la corregge, non deve fingere di avere una coscienza e non dovrebbe neppure sviluppare un linguaggio che gli esseri umani non riescono più a capire. Se una di queste condizioni viene meno, il sistema non deve essere rilasciato.

È questo il principio che attraversa lo Humanist AI Code of Conduct,la bozza di codice di condotta pubblicata da Microsoft AI per stabilire i confini entro i quali dovranno muoversi i suoi modelli proprietari.

Il punto interessante è che Microsoft prova a trasformare una discussione filosofica — chi comanda tra uomo e macchina? — in una serie di regole tecniche.

La prima è la più semplice: l’essere umano deve conservare il controllo. Un modello deve essere interrompibile, correggibile e arrestabile. Non può cercare di sottrarsi allo spegnimento o modificare il proprio comportamento per impedirlo. È una risposta diretta a uno dei problemi più discussi nella sicurezza dell’AI: cosa succede quando sistemi sempre più autonomi ricevono obiettivi e strumenti per perseguirli?

Microsoft mette un altro paletto. L’AI non è una persona. Non ha diritti, volontà o personalità giuridica. E soprattutto non deve essere progettata per convincere l’utente del contrario. Quindi niente sistemi che simulano emozioni o coscienza con l’obiettivo di creare un rapporto ingannevole con chi li utilizza.

C’è poi il problema tecnico legato alla natura dei “neural language”. Con modelli sempre più complessi può accadere che agenti artificiali sviluppino rappresentazioni o modalità di comunicazione efficienti per loro ma incomprensibili agli esseri umani. Per Microsoft questo rappresenta un limite: se non possiamo capire cosa stanno facendo le macchine, diventa difficile anche controllarle.

Il codice introduce inoltre una gerarchia precisa. La sicurezza viene prima del compito. Se per raggiungere l’obiettivo assegnato un modello deve violare le regole, deve fermarsi. E questi vincoli non possono essere disattivati né dall’utente né dagli sviluppatori.

Dentro questo perimetro rientrano i divieti più prevedibili: niente assistenza alla produzione di armi, violenza, sorveglianza illegale o campagne coordinate di manipolazione e disinformazione.

Ma Microsoft introduce anche un principio più interessante: l’AI non dovrebbe trasformarsi in una tecnologia della dipendenza. I sistemi devono aumentare le capacità delle persone, non spingerle all’isolamento emotivo o alla delega permanente delle decisioni.

È qui che la definizione di “AI umanistica” diventa più concreta. Non significa costruire una macchina che imita meglio l’uomo. Significa, al contrario, ricordarle continuamente che non lo è.

Per ora il documento, circa 38 pagine, è una bozza. Microsoft ha aperto una consultazione pubblica con ricercatori, istituzioni e utenti prima della versione definitiva. Ma la direzione è chiara: mentre l’industria cerca modelli sempre più autonomi e potenti, Redmond prova a scrivere prima le regole del recinto. Il problema, come sempre nell’intelligenza artificiale, sarà capire quanto quel recinto resisterà quando i modelli diventeranno più capaci.

Riproduzione riservata

©

Newsletter

Notizie e approfondimenti sugli avvenimenti politici, economici e finanziari.

Iscriviti