Meta lanz贸 una versi贸n especializada de Llama 2 para generaci贸n de c贸digo

Meta lanz贸 una versi贸n especializada de Llama 2 para generaci贸n de c贸digo

Noticias IBL | Nueva York

Meta lanz贸 este mes una versi贸n actualizada del modelo Code Llama 70B. Este modelo mejorado puede escribir c贸digo con mayor precisi贸n en varios lenguajes de programaci贸n, como Python, C++, Java y PHP, a partir de indicaciones de lenguaje natural o fragmentos de c贸digo existentes.

Basado en Llama 2 de c贸digo abierto, uno de los LLM m谩s grandes del mundo, con 175 mil millones de par谩metros, Code Llama es una colecci贸n de modelos de texto generativo previamente entrenados y ajustados que var铆an en escala de 7 mil millones a 70 mil millones de par谩metros.

La versi贸n del modelo 70B, que est谩 disponible en Hugging Face, est谩 dise帽ada para la s铆ntesis y comprensi贸n general del c贸digo, mientras que Llama 2 es un LLM de prop贸sito general que puede generar texto en cualquier dominio y estilo, desde poes铆a hasta art铆culos de noticias.

Code Llama 70B ha sido perfeccionado para la generaci贸n de c贸digo utilizando una t茅cnica llamada autoatenci贸n, que le permite aprender las relaciones y dependencias entre diferentes partes del c贸digo.

La generaci贸n de c贸digo ha sido un objetivo de larga data de los cient铆ficos inform谩ticos, ya que promete hacer que el desarrollo de software sea m谩s eficiente, accesible y creativo.

Sin embargo, a diferencia del lenguaje natural, que suele ser ambiguo y flexible, el c贸digo es preciso y r铆gido. Tiene que seguir reglas y sintaxis estrictas, y tiene que producir el resultado y el comportamiento deseados.

Los modelos de generaci贸n de c贸digo deben tener una gran cantidad de datos, potencia inform谩tica e inteligencia.

Code Llama 70B ha sido entrenado con 500 mil millones de tokens de c贸digo y datos relacionados con el c贸digo, lo que lo hace m谩s capaz y robusto que sus predecesores, seg煤n Meta.

Tambi茅n tiene una ventana de contexto m谩s grande de 100.000 tokens, lo que le permite procesar y generar c贸digo m谩s largo y complejo.

Code Llama 70B tambi茅n incluye聽CodeLlama-70B-Python, una variante que ha sido optimizada para Python. Esta variante ha sido entrenada con 100 mil millones de tokens adicionales de c贸digo Python, lo que la hace m谩s fluida y precisa en la generaci贸n de c贸digo Python. CodeLlama-70B-Python tambi茅n puede manejar una variedad de tareas, como web scraping, an谩lisis de datos, aprendizaje autom谩tico (ML) y desarrollo web.

Code Llama 70B est谩 disponible para聽descarga gratuita聽bajo la misma licencia que Llama 2 y los modelos anteriores de Code Llama, lo que permite tanto a investigadores como a comerciales usuarios para utilizarlo y modificarlo.

Se puede acceder al modelo y utilizarlo a trav茅s de varias plataformas y marcos, como聽Hugging Face,聽PyTorch,聽TensorFlow y聽Jupyter Notebook. Puede encontrar m谩s informaci贸n y documentaci贸n en聽GitHub聽y聽Hugging Face .

Meta AI tambi茅n proporciona documentaci贸n y tutoriales sobre c贸mo usar y ajustar el modelo para diferentes prop贸sitos e idiomas.

Mark Zuckerberg, director ejecutivo de Meta AI, dijo en una聽declaraci贸n publicada en su cuenta de Facebook: “Nosotros Estamos abriendo c贸digo para un Code Llama nuevo y mejorado, que incluye un modelo de par谩metros m谩s grande de 70 B. Escribir y editar c贸digo se ha convertido en uno de los usos m谩s importantes de los modelos de IA en la actualidad. La capacidad de codificar tambi茅n ha demostrado ser importante para los modelos de IA. procesar informaci贸n en otros dominios de manera m谩s rigurosa y l贸gica. Estoy orgulloso del progreso aqu铆 y espero incluir estos avances en Llama 3 y tambi茅n en modelos futuros”.

Se espera que Code Llama 70B tenga un impacto significativo en el campo de la generaci贸n de c贸digo y la industria del desarrollo de software, ya que ofrece una herramienta poderosa y accesible para crear y mejorar c贸digo. Tambi茅n puede reducir la barrera de entrada para las personas que desean aprender a codificar, ya que puede brindar orientaci贸n y retroalimentaci贸n basada en instrucciones en lenguaje natural. Adem谩s, Code Llama 70B puede habilitar potencialmente nuevas aplicaciones y casos de uso, como traducci贸n de c贸digo, resumen de c贸digo, documentaci贸n de c贸digo, an谩lisis de c贸digo y depuraci贸n de c贸digo.
.