OpenAI ha anunciado su estrategia para prevenir riesgos con la superinteligencia: la superalineación. Esta estrategia se basa en el uso de IA para controlar la propia IA, con el objetivo de alinear la superinteligencia con la voluntad humana. Para ello, OpenAI deberá resolver los principales desafíos técnicos centrales de la alineación de la superinteligencia en el plazo de cuatro años, es decir, hacia 2027. Esto supone un gran reto para la empresa, ya que requerirá niveles de retroalimentación difíciles de lograr únicamente con humanos. Para ello, se necesitarán personas cualificadas y especializadas, así como la verificación de cada paso de cada intento. Si bien el riesgo que entraña la superinteligencia es alto, OpenAI busca enfrentarlo con la creación de su equipo de superalineación.
OpenAI enfrenta una demanda colectiva presentada por dos escritores estadounidenses que acusan a la compañía de violar la ley de derechos de autor al utilizar sus novelas para entrenar los modelos GPT que impulsan sus aplicaciones de IA. Los demandantes alegaron que OpenAI "ingirió" ilegalmente el contenido de los libros y presentaron pruebas para demostrarlo. Según la demanda, gran parte del material del conjunto de datos proviene de obras protegidas por derechos de autor. Los abogados también mencionaron que OpenAI se ha valido de múltiples bibliotecas para entrenar sus modelos, incluyendo una colección de 7.000 libros inéditos de BookCorpus. Los escritores piden una compensación monetaria por los daños y perjuicios sufridos. Esta es la primera demanda contra ChatGPT relacionada con derechos de autor, y los demandantes deberán probar que sufrieron pérdidas económicas por culpa de la IA de ChatGPT. Esta no es la única demanda que enfrenta OpenAI, ya que también fue acusada de recopilar datos personales de forma ilegal.
La reunión de la ONU en Suiza es una oportunidad para demostrar el potencial de la tecnología para ayudar a alcanzar los objetivos globales de desarrollo. Entre los robots presentes están Nadine, Sophia, ABii, Therabot y Buddy. Estos robots tienen la capacidad de simular emociones, recordar a las personas y hablar en conferencias. La ONU cree que la inteligencia artificial y los robots son herramientas poderosas para impulsar los 17 Objetivos de Desarrollo Sostenible. Ya se están utilizando en proyectos como HungerMap y un sistema de evaluación comparativo para enfermedades. Esta tecnología podría dar el empujón necesario para cumplir con los ODS antes de que sea demasiado tarde.
/cloudfront-eu-central-1.images.arcpublishing.com/prisa/FSM6Z4D6RJC7VSCZU4HO337CBE.jpg)
La ley de Nueva York es la primera de su tipo en el mundo, y estipula que los programas informáticos de contratación basados en el aprendizaje automático o la IA deben superar una auditoría realizada por una empresa externa para demostrar que están limpios de sesgos racistas o sexistas. Los empleadores o agencias de empleo que deseen utilizar herramientas automatizadas de decisión de empleo (AEDT) deben asegurarse de que se ha realizado una auditoría de sesgos antes de utilizar la herramienta, publicar un resumen de los resultados de la auditoría en su sitio web, notificar a los candidatos y empleados que el programa se utilizará para evaluarlos, y publicar en su sitio web un aviso sobre el tipo y la fuente de los datos utilizados para la herramienta y la política de conservación de datos. Esta ley es un paso importante para garantizar que las decisiones tomadas por tecnologías algorítmicas y automatizadas sean justas. Sin embargo, los expertos afirman que sigue siendo muy limitada. Julia Stoyanovich, profesora de informática de la Universidad de Nueva York, considera que es un comienzo importante, pero aún muy limitado. Esta ley es un paso importante para garantizar que las decisiones tomadas por tecnologías algorítmicas y automatizadas sean justas.