Al darse cuenta del peligro que representa la IA, OpenAI, liderada por Sam Altman, decidió establecer un comité de seguridad y disolver su equipo de monitoreo. Por tanto, los directivos de la empresa se harán cargo de este comité. Para su información, OpenAI ya creó un consejo de supervisión hace dos semanas, pero la dirección lo disolvió. ¿Cuál será entonces el papel de este nuevo comité?
Según lo que dijo Sam Altam, este comité apoyar a la junta directiva de la empresa en su toma de decisiones.
Su papel es entonces asesorar a la junta directiva de OpenAI cuando es necesario tomar decisiones a nivel de seguridad y protección relacionados con los proyectos de la empresa.
Este anuncio se produce cuando OpenAI reveló que había comenzó a entrenar su próxima generación de modelos.
¿Podemos entonces decir que el objetivo declarado es lograr nuevos niveles de capacidad y acercarse al AGI ¿El desempeño iguala o supera el desempeño humano?
En cualquier caso, el nuevo comité de seguridad será compuesto por Sam Altman, Bret Taylor, Adam D’Angelo y Nicole Seligmantodos miembros de la junta directiva de OpenAI.
La verdad detrás de la disolución del equipo de monitoreo de IA de OpenAI
La decisión sigue la disolución de un equipo anterior dedicado a los riesgos de IA a largo plazocuyos directores Ilya Sutskever y Jan Leike dejaron recientemente la empresa.
Jan Leike había criticado el hecho de que la cultura y los procesos de seguridad de OpenAI han quedado relegados a un segundo plano en comparación con productos brillantes.
A precaución a lo que Sam Altman respondió que OpenAI tiene mucho más que hacer en estos temas.
Durante tres meses, este comité de seguridad evaluará los procesos y salvaguardas de OpenAI. Sólo después presenta sus recomendaciones al consejo de administración.
Sin embargo, OpenAI se compromete a comunicar posteriormente las medidas adoptadas. Y te avisaremos tan pronto como se publiquen.
#Ciberriesgos e #IA: un equipo de 10 personas contratado por OpenAI trabajará para crear un marco de seguimiento, evaluación y predicción frente a las peligrosas capacidades de los sistemas de IA.
Por Célia Seramour para @MondeInformatiqhttps://t.co/PB4JHNupPE
– FINN Partners Francia (@FINNFrance) 30 de octubre de 2023
Transparencia, responsabilidad, ética: las claves para la gobernanza de la IA según Sam Altman
Uno de los principales desafíos de la gobernanza de la inteligencia artificial es encontrar el equilibrio adecuado entre fomentar la innovación en este prometedor campo. Esto y al mismo tiempo prevenir los riesgos potenciales asociados con el surgimiento de la IA superinteligente.
Entre estos riesgos se encuentran el uso malicioso y los excesos de una IA demasiado poderosa. Además de la posibilidad de que una A.I. actúa sin querer o contrario a los objetivos esperados.
Persiste la controversia en torno varias preguntas cruciales. En particular, la transparencia requerida en los procesos de desarrollo de la IA generativa.
Pero también la responsabilidad que se le asignará sobre las decisiones tomadas por los sistemas de IA. Además de la necesidad de alinear las acciones de IA con los estándares éticos y valores sociales actuales.
Encontrar las salvaguardias regulatorias y los principios rectores adecuados, sin obstaculizar el desarrollo de una tecnología que aporta inmensos beneficios potenciales, representa una tarea difícil. desafío complejo que los órganos de gobierno tendrán que abordar.
Personalmente, ¡tengo tres preguntas que hacer! ¿OpenAI ha desarrollado un mecanismo que garantiza la seguridad del desarrollo de la IA después de disolver su equipo de vigilancia?
Cómo importa OpenAI integrar responsabilidad y ética en el diseño de sus futuros sistemas avanzados de IA? ¿Entonces disolvió su equipo específicamente responsable de estos aspectos?
Cuáles son las Implicaciones y posibles consecuencias de esta decisión. de OpenAI. ¿Particularmente para otras empresas que trabajan en el desarrollo de IA de vanguardia?
Nuestro blog está impulsado por lectores. Cuando compra a través de enlaces en nuestro sitio, podemos ganar una comisión de afiliado.
