Nueva York, Estados Unidos - Eric Schmidt, ex director ejecutivo de Google, advirtió sobre los peligros de la Inteligencia Artificial y su susceptibilidad a ser hackeada, destacó CNBC.
Schmidt, quien fue CEO de Google de 2001 a 2011, advirtió sobre "las consecuencias negativas que puede tener la IA" cuando se le preguntó si la IA es más destructiva que las armas nucleares durante una charla informal en la Sifted Summit.
Suscríbete a nuestro canal de WhatsApp y recibe las últimas noticias directamente en tu celular
Hackeo a IA: Son vulnerables a ataques
"Hay evidencia de que se pueden tomar modelos, cerrados o abiertos, y hackearlos para eliminar sus barreras de seguridad. Así que, durante su entrenamiento, aprenden muchas cosas. Un mal ejemplo sería que aprendan a matar a alguien", indicó Schmidt.
CNBC señaló que los sistemas de IA son vulnerables a ataques, con algunos métodos que incluyen inyecciones de avisos y jailbreaking. En un ataque de inyección de avisos, los hackers ocultan instrucciones maliciosas en las entradas del usuario o en datos externos, como páginas web o documentos, para engańar a la IA y hacer que haga cosas que no debería hacer, como compartir datos privados o ejecutar comandos dañinos.
Te recomendamos: Mete EU mayor fiscalización a remesas
El jailbreaking, por otro lado, implica manipular las respuestas de la IA para que ignore sus reglas de seguridad y produzca contenido restringido o peligroso.
Schmidt afirmó que aún no existe un buen "régimen de no proliferación" que ayude a frenar los peligros de la IA.
A pesar de la sombría advertencia, Schmidt se mostró optimista sobre la IA en general y afirmó que la tecnología no recibe la atención que merece.