El dueño de xAI propuso que las principales compañías de inteligencia artificial sometan sus modelos a pruebas de seguridad realizadas por sus propios competidores. La idea incluiría a empresas estadounidenses y también a desarrolladores chinos.
Elon Musk planteó una fórmula poco habitual para enfrentar los riesgos asociados al rápido avance de la inteligencia artificial: que las grandes compañías tecnológicas prueben los modelos de sus competidores.
Durante su participación remota en la All-In Summit, realizada en Los Ángeles, el empresario sostuvo que este mecanismo debería comenzar cuanto antes e incluso de manera inmediata.
La propuesta apunta a evitar que cada desarrollador sea el único responsable de evaluar la seguridad de sus propios sistemas.
Competidores revisando a competidores
Musk planteó que empresas como xAI, OpenAI, Anthropic, Google y Meta permitan que sus modelos sean sometidos a los sistemas de evaluación utilizados por sus rivales.
La propuesta también debería incorporar, según el empresario, a “tres o cuatro” de las principales compañías chinas de inteligencia artificial.
“En lugar de corregir tu propia tarea, al menos tendrías a competidores evaluándola”, explicó Musk durante el encuentro, según información recogida por CNBC.
La idea permitiría que una compañía pueda detectar vulnerabilidades o comportamientos potencialmente peligrosos que eventualmente hayan pasado inadvertidos durante las evaluaciones internas realizadas por el desarrollador.
Una especie de auditoría cruzada para la IA
En términos simples, el modelo planteado por Musk funcionaría como una auditoría cruzada entre competidores.
Cada compañía mantendría sus propios sistemas de seguridad, pero también los utilizaría para poner a prueba los modelos desarrollados por otras empresas.
Si alguno detectara un comportamiento preocupante, podría advertirlo antes de que el sistema llegue masivamente a los usuarios.
La propuesta aparece en momentos en que distintos líderes y especialistas de la industria discuten mecanismos para controlar los riesgos derivados de modelos de IA cada vez más avanzados.
Plano General
La propuesta tiene una paradoja interesante: las mismas empresas que compiten por construir la inteligencia artificial más poderosa tendrían que convertirse también en fiscalizadoras de sus rivales.
La gran pregunta será cuánto están dispuestas a mostrar compañías que protegen celosamente sus modelos, investigaciones y ventajas comerciales. Pero Musk pone sobre la mesa una idea sencilla: cuando la tecnología puede tener consecuencias globales, quizás corregirse la tarea uno mismo ya no sea suficiente.
por
por
