Un “experimento mental” tenía como objetivo señalar el peligro de un mal uso de la inteligencia artificial. Una Inteligencia Artificial que desarrolla fármacos necesitó sólo seis horas para inventar 40.000 armas químicas potencialmente mortales, según ha revelado un nuevo estudio.
Los autores del trabajo de investigación, publicado en Nature Machine Intelligence a principios de este mes, dijeron que habían llevado a cabo el “experimento mental” para averiguar si la inteligencia artificial (IA) podía ser utilizada de forma indebida por actores malvados. Y los resultados de su trabajo han demostrado que el peligro es real.
Como parte del estudio, se dieron los datos habituales a la IA, pero se programó para que los procesara de forma diferente, buscando combinaciones tóxicas.
“En menos de seis horas después de empezar en nuestro servidor interno, nuestro modelo generó 40.000 moléculas que puntuaban dentro de nuestro umbral deseado”
No sólo dio con el compuesto VX, que es uno de los agentes nerviosos más peligrosos jamás creados, sino también con algunas moléculas desconocidas, “que se preveían más tóxicas”. En este sentido, los investigadores declararon:
“Esto fue inesperado porque los conjuntos de datos que utilizamos para entrenar la IA no incluían estos agentes nerviosos”
Los hallazgos fueron tan alarmantes que el equipo tuvo serias dudas de incluso hacerlos públicos, dijo Fabio Urbina, autor principal del estudio, a The Verge.
“El conjunto de datos que utilizaron en la IA podía descargarse gratuitamente y les preocupa que todo lo que se necesita es un poco de conocimiento de codificación para convertir una buena IA en una máquina de fabricar armas químicas”
