Un grupo de desarrolladores ha logrado modificar con éxito el modelo Gemma de Google para que adopte el estilo de razonamiento y las características de rendimiento de Claude Opus, de Anthropic, según informa un reporte de decrypt.co.
El proyecto empleó métodos avanzados de ajuste fino (fine-tuning) para cerrar la brecha entre Gemma, un modelo ligero de pesos abiertos, y Claude Opus, un modelo mucho más grande y sofisticado.
Si bien el modelo Gemma de Google ya comparte ciertos rasgos arquitectónicos y de comportamiento con su hermano mayor, Gemini, este nuevo avance impulsa las capacidades cognitivas del modelo hacia el terreno de los LLM propietarios de primer nivel.
Potenciando la inteligencia de los modelos de pesos abiertos
El proceso de modificación se centró en el ajuste de instrucciones y en el uso de conjuntos de datos específicos, diseñados para replicar la lógica y los matices presentes en el modelo de Anthropic. Esto permite que el modelo más pequeño, Gemma, pueda abordar tareas de razonamiento complejo que, por lo general, requieren una potencia de cómputo mucho mayor.
Al imitar los patrones de respuesta de Claude Opus, la versión ajustada de Gemma demuestra una mayor capacidad para seguir instrucciones intrincadas y mantener la coherencia lógica durante la resolución de problemas de múltiples pasos.
Este avance sugiere que la brecha de rendimiento entre los modelos de pesos abiertos y los gigantes de código cerrado, como la serie Claude de Anthropic, puede reducirse mediante un entrenamiento especializado, en lugar de depender únicamente del aumento en el número de parámetros.
A medida que la comunidad de desarrolladores continúa experimentando con los recursos de código abierto de Google, la distinción entre los modelos ligeros y accesibles y los sistemas propietarios de alta gama sigue difuminándose.
