La Casa Blanca anunció su apoyo a un ejercicio de hackeo masivo que se llevará a cabo en la conferencia de seguridad Defcon. En este evento, hasta 4,000 hackers tendrán la oportunidad de evaluar los chatbots de inteligencia artificial (IA) de gigantes tecnológicos como Google, Microsoft y OpenAI.
Así será el hackeo a chatbots de IA.
Según lo que sabemos, el objetivo es detectar vulnerabilidades en estos sistemas y mejorar su seguridad. La idea es obtener información valiosa a investigadores y al público en general.
El anuncio del hackeo a chatbots de IA se realizó poco antes de una reunión entre el presidente Joe Biden y altos representantes de Google, OpenAI y Microsoft. La industria de la IA lo ve como una oportunidad para fomentar la transparencia y abordar la incertidumbre que rodea a los sistemas generativos de IA, impulsada en gran medida por la opacidad en la actuación de algunas compañías.
Este hackeo masivo no solo busca exponer problemas de seguridad y protección en las IA. Al involucrar a los hackers también espera que puedan contribuir a definir el próximo gran avance tecnológico en estos desarrollos. La iniciativa llega en un momento político clave, con gobiernos de todo el mundo apresurándose a regular y controlar desarrollos en el campo de la IA.
Además del apoyo al evento de hackeo masivo, la Casa Blanca anunció una inversión de 140 millones de dólares en la creación de siete nuevos Institutos Nacionales de Investigación de la IA. Estos institutos se centrarán en el desarrollo de una IA ética y transformadora para el bien público en áreas críticas. Por ejemplo el clima, la agricultura, la energía, la salud pública, la educación y la ciberseguridad.
Te platico más detalles en mi podcast. Escúchalo en Apple Podcast. Si lo prefieres, ya disponible en Spotify.
