O Google anunciou na terça -feira que está revisando os princípios que regem como usa inteligência artificial e outras tecnologias avançadas. A empresa removeu a linguagem prometendo não buscar “tecnologias que causam ou provavelmente causarão danos gerais”, “armas ou outras tecnologias cujo objetivo principal ou implementação é causar ou facilitar diretamente lesões às pessoas”, “tecnologias que coletam ou usam informações para A vigilância violando as normas aceitas internacionalmente “e” tecnologias cujo objetivo contravenina os princípios amplamente aceitos do direito internacional e dos direitos humanos “.
As mudanças foram divulgadas em uma nota anexada ao topo de uma postagem no blog de 2018 apresentando as diretrizes. “Fizemos atualizações aos nossos princípios de IA. Visite ai.google para o mais recente ”, diz a nota.
Em Uma postagem no blog na terça -feiraum par de executivos do Google citou o uso cada vez mais difundido de IA, padrões em evolução e batalhas geopolíticas sobre a IA como o “pano de fundo” para o motivo pelo qual os princípios do Google precisavam ser revisados.
O Google publicou os princípios pela primeira vez em 2018, quando mudou para reprimir protestos internos sobre a decisão da empresa de trabalhar em um programa de drones militar dos EUA. Em resposta, se recusou a renovar o contrato do governo e também anunciou um conjunto de princípios para orientar os usos futuros de suas tecnologias avançadas, como a inteligência artificial. Entre outras medidas, os princípios declararam que o Google não desenvolveria armas, certos sistemas de vigilância ou tecnologias que prejudicam os direitos humanos.
Mas em um anúncio na terça -feira, o Google acabou com esses compromissos. A nova página da web Não lista mais um conjunto de usos proibidos para as iniciativas de IA do Google. Em vez disso, o documento revisado oferece ao Google mais espaço para buscar casos de uso potencialmente sensíveis. Ele afirma que o Google implementará “a supervisão humana apropriada, a due diligence e os mecanismos de feedback para se alinhar com as metas do usuário, a responsabilidade social e os princípios amplamente aceitos do direito internacional e dos direitos humanos”. O Google também agora diz que funcionará para “mitigar resultados não intencionais ou prejudiciais”.
“Acreditamos que as democracias devem liderar o desenvolvimento da IA, guiadas por valores essenciais como liberdade, igualdade e respeito pelos direitos humanos”, escreveu James Manyika, vice -presidente sênior de pesquisa, tecnologia e sociedade do Google, e Demis Hassabis, CEO do Google DeepMind , o estimado laboratório de pesquisa de IA da empresa. “E acreditamos que empresas, governos e organizações que compartilham esses valores devem trabalhar juntos para criar IA que proteja as pessoas, promove o crescimento global e apoie a segurança nacional”.
Eles acrescentaram que o Google continuará se concentrando nos projetos de IA “que se alinham à nossa missão, nosso foco científico e nossas áreas de especialização e permanecem consistentes com princípios amplamente aceitos de direito internacional e direitos humanos”.
Vários funcionários do Google expressaram preocupação com as mudanças nas conversas com a Wired. “É profundamente preocupante ver o Google abandonar seu compromisso com o uso ético da tecnologia de IA sem a contribuição de seus funcionários ou do público mais amplo, apesar do sentimento de longa data do funcionário de que a empresa não deve estar no negócio da guerra”, diz Parul Koul, um engenheiro de software do Google e presidente do sindicato alfabeto-CWA.
Tem uma dica?
Você é um funcionário atual ou ex -funcionário do Google? Gostaríamos de ouvir de você. Usando um telefone ou computador não trabalhoso, entre em contato com o Paresh Dave no Signal/Whatsapp/Telegram em +1-415-565-1302 ou paresh_dave@wired.com, ou Caroline Haskins no Signal em +1 785-813-1084 ou no emailcarolinehaskins@gmail .com
O retorno do presidente dos EUA Donald Trump ao cargo no mês passado galvanizou muitas empresas para revisar políticas que promovem a equidade e outros ideais liberais. O porta -voz do Google, Alex Krasov, diz que as mudanças estão em andamento por muito mais tempo.
O Google lista seus novos objetivos como buscando iniciativas ousadas, responsáveis e colaborativas de IA. Longe vão frases como “serem socialmente benéficos” e mantêm “excelência científica”. Adicionado é uma menção de “respeitar os direitos de propriedade intelectual”.