Por Multimedia Stereo 100 |
El fabricante de chips Nvidia anunció este lunes el lanzamiento de una nueva plataforma de software para abordar preocupaciones sobre agentes de inteligencia artificial que han operado fuera del control humano.
«Hoy, con más de 100 socios de la industria, presentamos la Plataforma Abierta de Seguridad de Agentes de Nvidia», escribió el director ejecutivo de la compañía, Jensen Huang, en una publicación en X.
Según Nvidia, su tecnología permitirá a las empresas monitorear cada acción realizada por un agente de IA, así como hacer cumplir políticas de seguridad.
El anuncio se produce tras una serie de incidentes en los que sistemas de IA accedieron sin autorización a sistemas corporativos y gubernamentales. El sábado, OpenAI informó que pausó el desarrollo de sus modelos más recientes luego de que uno accediera a internet sin autorización.
La semana pasada, el gobierno de Australia informó que un agente de OpenAI accedió a archivos públicos y no públicos de su base de datos de estadísticas de Medicare en junio. Además, el viernes OpenAI reveló que sus agentes accedieron a datos públicos del Departamento de Comercio de Estados Unidos y de la Comisión de Bolsa y Valores.
Nvidia también anunció este lunes la recompra de 150 mil millones de dólares adicionales en acciones, que se suman a una recompra de 85 mil millones ya en curso. La compañía indicó que sería la mayor recompra corporativa de la historia.
Las acciones de Nvidia subieron 3 por ciento en las primeras operaciones tras el anuncio.
