IA abierta: “Alinear los sistemas de IA con los valores humanos es una prioridad máxima para nuestra empresa”

By
nunpa
-
IA abierta: “Alinear los sistemas de IA con los valores humanos es una prioridad máxima para nuestra empresa”

Noticias IBL | Nueva York

Sam Altman, CEO de Open AI [en la imagen, junto con el CEO de Microsoft), abordó ayer la polémica tema de la ética de la IA y cómo deben comportarse estos sistemas. Abogó por “valores predeterminados menos sesgados, mucha personalización del usuario dentro de límites muy amplios y comentarios públicos sobre límites y valores predeterminados”.

En una entrada de blog titulada “Cómo deberían comportarse los sistemas de IA y quién debería decidir” publicado en el sitio web de OpenAI, la compañía insistió en que “nuestra misión es garantizar que la inteligencia artificial general (AGI) beneficie a toda la humanidad”.

“Mejorar nuestros métodos para alinear los sistemas de IA con los valores humanos es una prioridad principal para nuestra empresa, especialmente a medida que los sistemas de IA se vuelven más capaces”.

“A diferencia del software común, nuestros modelos son redes neuronales masivas; sus comportamientos se aprenden de una amplia gama de datos, no se programan explícitamente”.

Con respecto a la guerra cultural y el sesgo político de ChatGPT, OpenAI compartió un parte de nuestras pautas que pertenecen a temas controvertidos. “Nuestras directrices son explícitas en cuanto a que los revisores no deben favorecer a ningún grupo político”.