El CEO de OpenAI, Sam Altman, ha confirmado que la empresa detrás de ChatGPT no tiene planes de salir a bolsa este año debido a las preocupaciones relacionadas con la seguridad de los modelos avanzados de inteligencia artificial. En una entrevista con la revista 'Fortune', Altman expresó que "sería un momento poco aconsejable para salir al mercado bursátil" dadas las actuales circunstancias de seguridad. Además, subrayó que no existe presión para realizar una oferta pública inicial.
Altman enfatizó que la compañía aún tiene muchas cosas que hacer respecto a lo que se requerirá para la seguridad y la alineación. También mencionó que OpenAI está dispuesta a tomar decisiones que puedan ir en contra del beneficio financiero inmediato para garantizar el control humano sobre la tecnología. La firma ha optado por ralentizar algunos procesos de entrenamiento, ya que Altman considera "inaceptable" cualquier situación en la que haya un 10% de posibilidades de que ocurra una catástrofe debido a la falta de control sobre los softwares de inteligencia artificial. "Todos tenemos una enorme responsabilidad", añadió, subrayando que no se deben permitir interferencias de egos, incentivos económicos u otros factores.
OpenAI retrasa su salida a bolsa a causa de los riesgos de seguridad asociados con la inteligencia artificial
En la misma línea, Dario Amodei, consejero delegado de Anthropic, ha abogado por "bajar el ritmo" del desarrollo de la inteligencia artificial. Amodei advirtió sobre el potencial riesgo de "perder el control" de esta tecnología, lo cual podría desencadenar "ataques informáticos", "bioterrorismo" o "graves problemas económicos". En su blog, argumentó que es necesario desacelerar la mejora de las capacidades de los modelos de IA para evitar riesgos como la toma de control de internet por parte de la inteligencia artificial en un plazo de entre seis y doce meses.
Amodei propone implementar medidas de seguridad y regulación sin renunciar al "éxito comercial". Sugiere una "evaluación incorporada" por actores independientes, "coordinación democrática" con instituciones públicas y una "coordinación global" que integre esfuerzos tanto de países democráticos como autoritarios a nivel mundial. "Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio", concluyó.
Sam Altman expresó, a través de sus redes sociales, su acuerdo con Dario Amodei en la necesidad de poner límites al desarrollo de la inteligencia artificial. Declaró que este tema ha sido central en OpenAI durante las últimas semanas y prometió que próximamente se ofrecería más información al respecto.
