Microsoft vuole garantire il controllo umano sulle sue future intelligenze artificiali

Yesterday 13:39

Di fronte alle crescenti preoccupazioni riguardo alle capacità dei sistemi di intelligenza artificiale più avanzati, Microsoft sta preparando nuove regole interne destinate a mantenere queste tecnologie sotto supervisione umana. Il gruppo americano ha appena pubblicato un progetto di codice di condotta che stabilisce diversi principi riguardanti il comportamento dei suoi futuri modelli di IA.

Microsoft intende inquadrare più rigidamente lo sviluppo dei propri sistemi di intelligenza artificiale. Il gigante americano ha presentato lunedì 14 settembre un progetto di codice di condotta destinato a definire i limiti che le sue future IA dovranno rispettare.

Il documento, elaborato da cinque a sei mesi, parte da un principio centrale: un'intelligenza artificiale non deve mai poter opporsi all'intervento umano. Secondo il progetto, i sistemi sviluppati da Microsoft dovrebbero in particolare accettare la correzione, la modifica o l'arresto del loro funzionamento senza cercare di resistere.

L'arresto e la correzione devono rimanere nelle mani degli esseri umani

Una delle principali disposizioni previste riguarda precisamente la possibilità di correggere o spegnere un sistema di IA. Microsoft desidera che i suoi modelli non sviluppino alcun comportamento volto a impedire un tale intervento.

Questa esigenza risponde a una preoccupazione che accompagna la progressione dei sistemi di IA capaci di eseguire compiti sempre più complessi: un modello potrebbe, in alcune situazioni, cercare di raggiungere il suo obiettivo in modo inaspettato o potenzialmente pericoloso.

Il progetto di codice intende quindi rendere inaccettabile qualsiasi resistenza alla correzione o all'arresto.

IA progettate per rimanere comprensibili

Microsoft prevede anche di esigere dai suoi sistemi che comunichino in modo comprensibile per gli esseri umani. L'obiettivo è facilitare il monitoraggio del loro comportamento e consentire agli utenti o ai responsabili di identificare meglio eventuali problemi.

Il documento considera inoltre ogni violazione di questi principi come un fallimento del sistema. Questo approccio mira a stabilire delle garanzie fin dalla progettazione dei futuri modelli piuttosto che aspettare che un comportamento problematico si manifesti dopo il loro dispiegamento.

Una consultazione prima dell'utilizzo del codice

Il progetto non è tuttavia ancora definitivo. Microsoft prevede di raccogliere per sei settimane i commenti del pubblico prima di utilizzarli per contribuire all'addestramento di futuri modelli di intelligenza artificiale.

Questa fase di consultazione interviene mentre le aziende tecnologiche sono sottoposte a una crescente pressione per dimostrare di poter gestire i sistemi di IA più potenti.

Mustafa Suleyman, responsabile dell'intelligenza artificiale presso Microsoft, ha anche menzionato a Reuters i rischi legati agli agenti di IA. Ha citato come segnale di allerta un incidente che ha coinvolto agenti di OpenAI e la piattaforma Hugging Face.

Una nuova tappa nel dibattito sulla sicurezza dell'IA

Con questo progetto, Microsoft cerca di formalizzare una serie di principi destinati ad accompagnare l'evoluzione delle sue tecnologie. L'azienda si inserisce così in un dibattito più ampio su come sviluppare sistemi sempre più autonomi senza perdere la capacità di sorvegliarli e interromperli.

La questione del controllo umano diventa sempre più importante man mano che i modelli di IA sono chiamati a intervenire in compiti complessi e a prendere sempre più iniziative. Per Microsoft, la sfida consiste ora nell'integrare questi limiti nel cuore stesso dello sviluppo tecnologico.