Un trío de investigadores de la Universidad de Cornell descubrió que es posible ocultar código de malware dentro de las redes neuronales de IA. Zhi Wang, Chaoge Liu y Xiang Cui han publicado un artículo que describe sus experimentos con la inyección de código en redes neuronales en el servidor de preimpresión arXiv.
como computadora la tecnología se vuelve cada vez más complejo, al igual que los intentos de los delincuentes de ingresar a máquinas que ejecutan nueva tecnología para sus propios fines, como destruir datos o cifrarlos y exigir un pago a los usuarios por su devolución. En este nuevo estudio, el equipo ha encontrado una nueva forma de infectar ciertos tipos de sistemas informáticos que ejecutan aplicaciones de inteligencia artificial.
Los sistemas de inteligencia artificial hacen su trabajo procesando datos de manera similar al cerebro humano. Pero tales redes, descubrió el trío de investigadores, son vulnerables a la infiltración de códigos extranjeros.
Las redes neuronales, por su propia naturaleza, pueden ser invadidas por agentes extranjeros. Todo lo que estos agentes tienen que hacer es imitar la estructura de la red de la misma manera que se agregan recuerdos en el cerebro humano. Los investigadores descubrieron que pudieron hacer precisamente eso incorporando malware en la red neuronal detrás de un sistema de inteligencia artificial llamado AlexNet, a pesar de ser bastante pesado, ocupando 36.9 MiB de espacio de memoria en el hardware que ejecuta el sistema de inteligencia artificial. Para agregar el código a la red neuronal, los investigadores eligieron lo que creían que sería la mejor capa para la inyección. También lo agregaron a un modelo que ya había sido capacitado, pero señalaron que los piratas informáticos podrían preferir atacar una red no capacitada porque probablemente tendría menos impacto en la red en general.
Los investigadores encontraron que no solo el software antivirus estándar no pudo encontrar el malware, sino que el rendimiento del sistema de inteligencia artificial fue casi el mismo después de ser infectado. Por lo tanto, la infección podría haber pasado desapercibida si se hubiera ejecutado de forma encubierta.
Los investigadores señalan que simplemente agregar malware a la red neuronal no causaría daño; quienquiera que insertara el código en el sistema aún tendría que encontrar una manera de ejecutar ese código. También señalan que ahora que se sabe que los piratas informáticos pueden inyectar código en la inteligencia artificial telecomunicaciones , el software antivirus se puede actualizar para buscarlo.
