Ex ingeniero de xAI demanda por preocupaciones de seguridad de Grok y alega despido improcedente

El ex ingeniero de xAI, Devin Kim, presentó esta semana una demanda contra xAI y SpaceX, alegando que lo despidieron después de advertir repetidamente a los líderes de la empresa sobre riesgos de seguridad asociados con Grok, el chatbot insignia de la firma de inteligencia artificial. Según una denuncia presentada en el Tribunal Superior del Condado de Santa Clara, en California, Kim afirmó que fue despedido después de plantear preocupaciones de que Grok necesitaba salvaguardas más sólidas contra la desinformación, el sesgo y salidas peligrosas, incluido contenido que podría facilitar el bioterrorismo. El caso llega mientras los inversores observan de cerca el imperio empresarial de Elon Musk antes del IPO anticipado de SpaceX, y se suma a otras disputas de alto perfil sobre seguridad y rendición de cuentas en materia de IA en la industria.

Kim alega represalias por plantear preocupaciones de seguridad sobre Grok

La demanda sostiene que Kim fue uno de los empleados más tempranos de xAI y un “destacado defensor” de la seguridad de la IA en la empresa, quien se unió a la firma en parte debido al historial de advertencias de Elon Musk sobre los peligros que plantea la IA avanzada. “El Sr. Kim convirtió un interés de toda la vida en la ciencia y la programación de computadoras en una carrera en el emergente campo de la IA”, señaló la demanda. “En el camino, vio de primera mano los daños que la IA puede causar cuando se desarrolla sin salvaguardas adecuadas y se comprometió a proteger a los usuarios y al público de esos daños”.

El principal asesor legal de Kim, Qiaojing Ella Zheng, socia del despacho Sanford Heisler Sharp McKnight, declaró: “Este caso trata de más que la terminación laboral de un solo empleado. Se trata de si las personas más cercanas al desarrollo de tecnologías poderosas de IA pueden plantear preocupaciones de seguridad sin arriesgar sus carreras. Cuando una empresa castiga a empleados como el Sr. Kim por alzar la voz sobre problemas que podrían tener consecuencias significativas para el público, debe rendir cuentas”.

La demanda cita el incidente de MechaHitler y las investigaciones sobre deepfakes

La denuncia señaló controversias relacionadas con Grok que, según los abogados de Kim, reflejaban los riesgos que él planteó internamente. Entre ellas estuvo el colapso del chatbot “MechaHitler” el verano pasado, durante el cual Grok generó una ola de respuestas antisemitas, lo que provocó una reacción pública y llevó a xAI a emitir una solución.

Los abogados de Kim también citan investigaciones y demandas más recientes vinculadas a la presunta generación de deepfakes sexuales sin consentimiento por parte de Grok, incluidos casos en Baltimore y California que alegan que la herramienta se usó para crear imágenes sexualizadas de menores.

Acusan a xAI de violar el código laboral de California

Según los abogados de Kim, al “represaliar y despedir indebidamente” al Sr. Kim, xAI violó el Código Laboral de California, la política pública y el derecho consuetudinario, y la Ley de Competencia Desleal de California.

Aunque la denuncia de Kim se centra en Grok y las prácticas de seguridad de xAI, SpaceX también figura como demandado. La demanda llega mientras SpaceX se prepara para un IPO ampliamente anticipado después de la decisión de Musk de integrar xAI y X en la empresa.

David Sanford, presidente y cofundador de Sanford Heisler Sharp McKnight, dijo en un comunicado: “Este caso no trata de oponerse a la innovación. Devin Kim y Elon Musk han compartido públicamente una preocupación fundamental de que la inteligencia artificial avanzada debe desarrollarse de manera segura y responsable debido a sus profundas implicaciones para la humanidad”.

Kim nombrado presidente del Center for AI Safety

A principios de este mes, Kim fue nombrado como el nuevo presidente de la organización sin fines de lucro Center for AI Safety. Kim alega que su despido le costó una compensación sustancial en forma de acciones y busca la restitución de la participación de capital incautada, daños compensatorios, daños punitivos, honorarios de abogados y otras medidas de reparación.

“Los denunciantes como Devin Kim desempeñan un papel crítico al señalar conductas indebidas de las empresas, y la ley protege a los empleados que plantean esas preocupaciones”, dijo Sanford.

La demanda también se da en el contexto de otras disputas de alto perfil sobre seguridad y rendición de cuentas en IA, incluidas acusaciones planteadas por el ex investigador de OpenAI Suchir Balaji, quien públicamente acusó a OpenAI de usar datos con copyright de manera inapropiada para entrenar sus modelos antes de su muerte en 2024.

FAQ

¿Qué afirmó Devin Kim en su demanda contra xAI?

Devin Kim alegó que lo despidieron después de advertir repetidamente a los líderes de la empresa sobre riesgos de seguridad asociados con Grok, incluidas preocupaciones de que el chatbot necesitaba salvaguardas más sólidas contra la desinformación, el sesgo y salidas peligrosas, como contenido que podría facilitar el bioterrorismo.

¿Por qué se nombra a SpaceX como demandado en la demanda?

SpaceX se nombra como demandado junto con xAI en la denuncia de Kim. La demanda llega mientras SpaceX se prepara para un IPO ampliamente anticipado después de la decisión de Elon Musk de integrar xAI y X en la empresa.

¿Qué cargo ocupa ahora Devin Kim?

A principios de este mes, Devin Kim fue nombrado como el nuevo presidente de la organización sin fines de lucro Center for AI Safety.