contador gratis Saltar al contenido

Inteligencia artificial, las 5 preocupaciones de Google

marzo 30, 2020

Los investigadores de Google han expresado su preocupación por la inteligencia artificial y sus desarrollos. Aquí están los 5 mejores que emergen del periódico

Una búsqueda en Google, titulada Problemas concretos en la seguridad de la inteligencia artificial, explica cuál es la visión de Google para el futuro de la inteligencia artificial. Sin llegar a una visión alarmista, todavía hay algunas preocupaciones de seguridad. También son observaciones muy simples y concretas que demuestran cuán madura es esta tecnología. Aquí están las cinco principales preocupaciones:

1. evitar efectos negativosno deseado o garantizar que los sistemas de inteligencia artificial no dañen el medio ambiente en la consecución de sus objetivos

2. evitar la lógica de la recompensa típico de los juegos, por ejemplo, evitar que un robot limpie sin eliminar el desorden solo para completar su tarea

3. asegúrese de que los robots reaccionen correctamente incluso a estímulos que no pueden evaluarse durante la fase de entrenamiento, porque son demasiado caros

4. Asegúrese de que los sistemas no exploren el territorio. y no hacer movimientos fuera de control con repercusiones negativas

5. asegúrese de que los sistemasposicionarse en el mundo real, reconocer que es un lugar diferente del espacio de entrenamiento

"Creemos que la IA puede aportar grandes beneficios a la humanidad. Estamos convencidos de que se debe prestar mucha atención a los riesgos potenciales ", dice el documento. El equipo de Google también planteó problemas de privacidad. ¿Cómo se puede garantizar la privacidad cuando las tecnologías de aprendizaje automático se aplican a datos confidenciales como los datos de salud? Sobre la equidad: ¿cómo podemos estar seguros de que estos sistemas no discriminarán a alguien? Sobre seguridad: ¿qué podría pasarle a un sistema de aprendizaje automático en caso de un ataque? Sobre el abuso: ¿cómo evitar que los robots lastimen a alguien? Sobre transparencia: cómo controlar exactamente qué sistemas están procesando. Sobre políticas: ¿cómo gestionar las consecuencias sociales y económicas de la introducción de estos sistemas en el mercado?

Creemos en la importancia, el rigor y el trabajo en equipo de la construcción de sistemas de inteligencia artificial. Continuaremos trabajando con grupos de investigación para hacer planes en IA, concluyen los investigadores de Google.Preocupaciones de inteligencia artificial de Google