Este jueves, Anthropic, una empresa californiana especializada en inteligencia artificial, anunció que ha logrado desarticular varios intentos donde su tecnología fue empleada para investigar potenciales armas biológicas. Estos casos fueron detectados y detenidos a lo largo del presente año, destacando la preocupación por el uso indebido de sus modelos.
En su informe, la compañía aseguró que aunque identificaron estos usos inapropiados, no pudieron determinar si las investigaciones eran con fines maliciosos o legítimos. Ante la incertidumbre, decidieron bloquear estos intentos para prevenir que su tecnología pudiera contribuir al desarrollo de patógenos peligrosos.
"A pesar de que las evaluaciones pueden ofrecer evidencia de capacidad, no pueden demostrar de manera concluyente que dicha capacidad se usaría para desarrollar armas biológicas en la práctica", indicó Anthropic en su comunicado.
Hasta el momento, Anthropic no ha tenido constancia de que alguna empresa haya expuesto públicamente pruebas sobre el mal uso de sus plataformas en relación a la creación de armas biológicas. Esto resalta la falta de evidencia concreta en el ámbito empresarial sobre el uso indebido de la inteligencia artificial en este contexto.
Además, en otro comunicado, Anthropic presentó una lista de incidentes en los últimos ocho meses donde modelos de su IA, incluyendo el chatbot Claude, fueron utilizados inapropiadamente en diferentes países como China, Rusia y Yemen. Este contexto ha generado un creciente debate sobre las implicaciones de la IA en la seguridad mundial.
El informe coincide con las preocupaciones de expertos en tecnología sobre el uso dual de la IA, ya que la misma capacidad que permite avanzar en investigaciones biológicas también puede ser orientada hacia fines peligrosos. Por este motivo, la empresa ha desarrollado sistemas para identificar y bloquear actividades que representen un riesgo en el uso de sus modelos.