amaneciendo.com.mx Tu ventana al mundo
LO ESENCIAL
Jacob Coxon, investigador especializado en entrenamiento de modelos de inteligencia artificial, anunció su renuncia a Anthropic mediante una publicación que rápidamente se viralizó en redes sociales. En su mensaje, cuestionó la forma en que las principales empresas del sector están desarrollando esta tecnología.
Coxon trabajó durante los últimos tres años en OpenAI y posteriormente en Anthropic. Afirmó que ninguna de las dos compañías está actuando con la responsabilidad necesaria ante el potencial de los sistemas de inteligencia artificial de próxima generación.
"Renuncié hoy a Anthropic. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos empresas está actuando de forma responsable. Están compitiendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están apostando nuestras vidas", escribió el investigador.
En su mensaje, sostuvo que el desarrollo de la IA avanza más rápido de lo que la sociedad percibe. Aseguró que, en pocos años, podrían existir sistemas con capacidades superiores a las humanas para resolver problemas científicos, desarrollar nuevas tecnologías o incluso vulnerar sistemas informáticos.
CONTEXTO
Según Coxon, dentro de la industria existe una preocupación real sobre estos escenarios. "Las personas que están construyendo esta inteligencia artificial creen sinceramente que podría acabar con todos nosotros antes de que termine la década. No es una estrategia de marketing", afirmó.
El exinvestigador aseguró que, aunque públicamente muchos ejecutivos moderan su discurso, en conversaciones privadas expresan preocupaciones mucho más profundas sobre los riesgos asociados con una inteligencia artificial general o superinteligente.
EN PERSPECTIVA
Uno de los puntos centrales de su crítica es que la competencia entre laboratorios de IA estaría impulsando un desarrollo acelerado, incluso entre quienes reconocen los riesgos. Coxon sostiene que en OpenAI muchos empleados no han dimensionado completamente las implicaciones de esta tecnología.
En Anthropic, consideró que existe una mayor conciencia sobre los riesgos, pero que sus equipos creen que deben avanzar antes que sus competidores porque otras compañías actuarían con menos precaución. A su juicio, esta lógica convierte el desarrollo de la inteligencia artificial en una carrera que podría tener consecuencias globales.
El investigador hizo un llamado a establecer mecanismos de coordinación entre los principales desarrolladores de inteligencia artificial para reducir el ritmo de avance mientras se fortalecen las medidas
Etiquetas: inteligencia artificial, Anthropic, OpenAI, Jacob Coxon, superinteligencia, ética tecnológica, seguridad digital, Tecnología e IA
