Expertos en inteligencia artificial enumeran los peligros reales de la inteligencia artificial

Un informe de 100 páginas escrito por expertos en inteligencia artificial de la industria y la academia tiene un mensaje claro: cada avance de IA de los buenos también es un avance para los malos.

El documento, titulado «El uso malicioso de la inteligencia artificial: pronóstico, prevención y mitigación», llama a esto el atributo de «doble uso» de la IA, lo que significa que la capacidad de la tecnología para tomar miles de decisiones complejas cada segundo podría usarse para ayudar a ambos o dañar a las personas, dependiendo de la persona que diseña el sistema. Los expertos consideraron los usos maliciosos de la IA que existen actualmente o podrían desarrollarse en los próximos cinco años, y los dividieron en tres grupos: digital, físico y político.

Aquí hay una lista seleccionada de los daños potenciales discutidos:

Digital:

• Phishing automatizado o creación de correos electrónicos, sitios web y enlaces falsos para robar información.
• Hackeo más rápido , a través del descubrimiento automatizado de vulnerabilidades en software.
• Engañando a los sistemas de inteligencia artificial , aprovechando las fallas en la forma en que la inteligencia artificial ve el mundo.

Físico:

• Automatizar el terrorismo , utilizando drones comerciales o vehículos autónomos como armas.
• Enjambres de robots , habilitados por muchos robots autónomos que intentan alcanzar el mismo objetivo.
• Ataques remotos , ya que los robots autónomos no necesitarían ser controlados dentro de una distancia establecida.

Político:

• Propaganda , a través de imágenes falsas y videos fácilmente generados .
• Eliminación automática de disensiones , al buscar y eliminar automáticamente texto o imágenes.
• Persuasión personalizada , aprovechando la información disponible públicamente para orientar las opiniones de alguien .

El informe presenta una imagen sombría de nuestro futuro potencial, especialmente porque el plazo es de solo cinco años. Pero eso no significa que estamos resignados a la distopía. Los investigadores ya están trabajando en algunas posibles soluciones a estos problemas, aunque advierten que probablemente será un juego de gato y ratón.

Disfruta de este contenido en la nueva aplicación Quartz

Obtener la aplicación