Entrenar un modelo personalizado con GPT-4 de OpenAI cuesta entre 2 y 3 millones de dólares

By
nunpa
-
Entrenar un modelo personalizado con GPT-4 de OpenAI cuesta entre 2 y 3 millones de dólares

Noticias IBL | Nueva York

Entrenar un modelo personalizado desde cero utilizando GPT-4 de OpenAI puede llevar varios meses, con precios que oscilan entre 2 y 3 millones de dólares, según la empresa.

Este alto precio provocó una discusión entre los profesionales en Twitter, ahora conocido como X. Muchos usuarios estuvieron de acuerdo en que un modelo base mucho más pequeño previamente entrenado y con ajustes adicionales costaría diez veces menos.

OpenAI justifica el precio afirmando:

“El programa Modelos personalizados brinda a las organizaciones seleccionadas la oportunidad de trabajar con un grupo dedicado de investigadores de OpenAI para entrenar modelos GPT-4 personalizados para su dominio específico”.

“Esto incluye modificar cada paso del proceso de capacitación del modelo, desde realizar una capacitación previa adicional específica del dominio hasta ejecutar un proceso de capacitación posterior de RL personalizado adaptado para el dominio específico”.

“Las organizaciones tendrán acceso exclusivo a sus modelos personalizados. Este programa es particularmente aplicable a dominios con conjuntos de datos propietarios extremadamente grandes: miles de millones de tokens como mínimo”.

Por otro lado, OpenAI anunció Data Partnerships, una iniciativa destinada a trabajar con organizaciones para producir conjuntos de datos públicos y privados para el entrenamiento de IA. modelos como una forma de combatir los modelos que contienen lenguaje tóxico y prejuicios.

Para trabajar con datos y archivos PDF en esos conjuntos de datos a gran escala, OpenAI dice que utiliza tecnología OCR de clase mundial y reconocimiento automático de voz (ASR) para transcribir palabras habladas.
.