Stuart Russell, profesor de UC Berkeley y coautor de la carta de marzo de 2023, declaró en el juicio contra OpenAI sobre riesgos como ciberataques, desalineamiento y la dinámica 'winner‑take‑all' en la búsqueda de la AGI;
En el proceso que enfrenta a Elon Musk y otros demandantes contra OpenAI, los abogados de Musk presentaron como único perito a Stuart Russell, profesor de ciencias de la computación en la Universidad de California, Berkeley. Russell fue llamado para contextualizar los riesgos asociados al desarrollo de inteligencia artificial y para apoyar la tesis de la demanda: que una organización fundada con un énfasis en la seguridad pudo haberse desviado hacia objetivos orientados al lucro.
Investigador de larga trayectoria en la disciplina, Russell fue además cofirmante de la carta pública de marzo de 2023 que pedía una pausa de seis meses en determinados desarrollos de IA. En su comparecencia expuso varios riesgos concretos, entre ellos la posibilidad de ataques de ciberseguridad, problemas de desalineamiento entre objetivos humanos y sistemas de IA, y la naturaleza 'winner‑take‑all' —es decir, la presión por llegar primero a una AGI-que puede incentivar comportamientos riesgosos en laboratorios competidores. El juez Yvonne Gonzalez Rogers restringió parte de esas declaraciones tras las objeciones formuladas por los abogados de OpenAI.
La demanda de Musk se apoya en correos y declaraciones antiguas de los fundadores que describían la creación de OpenAI como un contrapeso público a Google DeepMind y como una entidad centrada en la seguridad. Según la narrativa presentada en la corte, esa misión se habría erosionado cuando la necesidad de acceso a una gran capacidad de cómputo llevó al equipo fundador a buscar capital y alianzas con empresas con fines de lucro.
El trasfondo competitivo amplifica la discusión: Russell y otros expertos han advertido públicamente sobre una dinámica de carrera entre laboratorios de referencia que compiten por lograr avances en AGI. Esa tensión apareció en el caso cuando se señaló que Musk firmó la carta de marzo de 2023 mientras, en paralelo, impulsaba xAI como un laboratorio con fines de lucro. A nivel político, el senador Bernie Sanders invocó temores similares al proponer una moratoria sobre la construcción de centros de datos, una iniciativa que atrajo críticas de representantes de la industria como Hoden Omar, del Center for Data Innovation.
La contrainterrogación de OpenAI buscó acotar el alcance del peritaje mostrando que Russell no evaluó de forma directa la estructura corporativa ni las políticas de seguridad específicas de OpenAI. Además, las preocupaciones existenciales más amplias que Russell sostiene no llegaron a discutirse en profundidad en audiencia pública, debido a objeciones y a las limitaciones impuestas por el tribunal.
Fuentes
Respuestas (0)
Aún no hay respuestas en este tema.
