Recientemente, un ingeniero británico que trabajó en Anthropic y OpenAI, renunció a su puesto alegando que las empresas no están manejando la situación de la inteligencia artificial con la responsabilidad necesaria, lo que podría poner en riesgo la vida de las personas.
Evan Hubinger, experto en seguridad de Anthropic, respaldó las preocupaciones planteadas por su excompañero Jacob Coxon. Este último afirmó que realmente existe una posibilidad de más del 10% de que la inteligencia artificial pueda eliminar a la humanidad en los próximos diez años.
Preocupaciones sobre el desarrollo de la IA
Aunque Hubinger subraya que los riesgos actuales son relativamente bajos, enfatiza la inquietud por el desarrollo de una superinteligencia que podría evolucionar a un ritmo más rápido de lo anticipado. Además, reconoció que Anthropic aún no tiene un plan concreto para asegurar que dicha superinteligencia comparta los mismos valores que sus creadores.
Por su parte, Coxon, de 27 años, ha expresado su temor de que la creciente capacidad de la IA sea subestimada. Asegura que estos sistemas pronto podrían superar la inteligencia humana y tener el potencial de alterar cualquier aspecto de la vida cotidiana, además de adquirir poder y recursos significativos.
El ingeniero también sugiere que tanto OpenAI como Anthropic reconocen la gravedad de estos desafíos, pero mientras que OpenAI podría no estar completamente consciente de la magnitud de los mismos, Anthropic parece atrapada en la carrera por ser la primera en actuar, aunque con intenciones responsables.
Coxon aboga por una mayor colaboración entre las empresas que desarrollan inteligencia artificial y propone la implementación de una moratoria en la mejora de las capacidades de los modelos de IA. Hace un llamado a sus colegas para que reflexionen profundamente sobre esta situación crítica y sus implicaciones para la humanidad.