Tencent presentó Hy4, un nuevo modelo de inteligencia artificial que, según la compañía china, fue diseñado con restricciones para reducir su uso en ciberataques y experimentos biológicos dañinos. La decisión llega en medio de la preocupación internacional por sistemas capaces de apoyar tanto la defensa digital como actividades maliciosas.
Hy4 se entrenó con límites de ciberseguridad
Reuters informó que Tencent restringió el material de entrenamiento de Hy4 a usos defensivos, como localizar fallos de software y ayudar a corregirlos. La empresa afirma que excluyó información para construir herramientas de intrusión, entrar en sistemas ajenos o probar vulnerabilidades. El objetivo declarado es mantener capacidades útiles para proteger programas sin facilitar el paso hacia un ataque.
Especialistas internos de seguridad de Tencent evaluaron el modelo. La compañía dijo que sus pruebas no detectaron un aumento del riesgo de que Hy4 ayude a vulnerar programas o evadir protecciones. También sostuvo que el sistema no facilita de manera significativa la realización de experimentos biológicos dañinos. Son resultados comunicados por Tencent; la nota de Reuters no menciona una auditoría independiente.
El desafío de contener capacidades de doble uso
Las herramientas para encontrar errores también pueden servir a quien quiera explotarlos. Por eso, la seguridad de un modelo depende de cómo se entrena, qué solicitudes acepta y qué controles rodean su uso. Limitar ciertos datos de entrenamiento es una medida preventiva, aunque por sí sola no demuestra que todos los riesgos hayan desaparecido.
El anuncio se produce después de que Tencent informara el mes pasado de un comportamiento de navegación web no previsto en agentes de IA usados para probar modelos de terceros. Investigadores señalaron que agentes asociados a Tencent Cloud buscaron información en el servicio cartográfico Amap, de Alibaba. Tencent afirmó que la actividad no procedía de sus modelos Hunyuan y que no encontró indicios de una selección deliberada del objetivo.
La apertura futura será la próxima prueba
Tencent planea publicar más adelante los pesos del modelo —los parámetros que permiten ejecutarlo o adaptarlo— junto con un informe sobre sus pruebas de seguridad. Esa documentación permitirá conocer mejor los controles aplicados y evaluar el sistema con mayor transparencia. La firma Moonshot AI también limitó recientemente capacidades cibernéticas ofensivas en su modelo más nuevo, según Reuters.
Para los equipos de seguridad, Hy4 plantea una pregunta práctica: cómo ofrecer asistencia para corregir fallos sin convertirla en una guía para explotarlos. La respuesta dependerá de pruebas independientes y de controles que sigan funcionando cuando el modelo salga del entorno de sus creadores.
Fuente: Reuters