Google cria “botão vermelho” para IA

Google cria "botão de desligar" para inteligência artificial

Google cria “botão de desligar” para inteligência artificial

Um laboratório de pesquisa de inteligência artificial de Londres, o Google DeepMind, concluiu:  a melhor forma de se preparar para o avanço da tecnologia de inteligência artificial (IA) é criar um “botão vermelho” que paralise todas as atividades de agentes de inteligência artificial~ —  dispositivos que possuem IA, como computadores e robôs. Segundo o site Business Insider, os pesquisadores criaram uma “estrutura” que permite que um operador humano interrompa as atividades de uma IA, assegurando que a IA não aprenda como prevenir as interrupções.

Em artigo publicado no site do Machine Intelligence Research Institute (MIRI) (https://intelligence.org/research/), Laurent Orseau, Stuart Armstrong e outros pesquisadores do Google DeepMind explicam o porquê. Segundo eles, é improvável que agentes IA funcionem perfeitamente o tempo todo. “Se um agente IA estiver trabalhando em tempo real sob supervisão humana, ocasionalmente será necessário que o operador humano pressione um “botão vermelho” para impedir que o agente IA continue com uma sequência nociva de ações, que podem ser prejudiciais para o agente ou para o meio ambiente”, explicam no artigo.

Para os cientistas, interromper as atividades dos agentes com inteligência artificial de forma segura pode ser útil para assumir o controle de um robô cujo comportamento pode levar a consequências irreversíveis ou para tirá-lo de uma situação delicada. Para exemplificar, o estudo cita o caso de um robô que foi desafiado pelos programadores a vencer uma partida de Tetris. Sozinha, a inteligência artificial do robô descobriu que, se deixasse o jogo em pausa para sempre, nunca perderia o jogo. Esse é o tipo de caso em que um agente humano veria necessidade de desligar um agente IA. A dificuldade para criar esse botão de desligar, por enquanto, é que nem todos os algoritmos utilizados em inteligências artificiais podem ser interrompidos com segurança.


Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *