Primeiro apareceu o
Copilot ( GitHub / Microsoft / OpenAI ) a seguir o
Codex ( OpenAI ) e agora a
Google.
A Google acaba de publicar um
paper em que fez um
modelo de linguagem para geração de código em Python de
137 biliões de parâmetros, este obteve bons resultados e em que a
performance cresce com o número de parâmetros.Program Synthesis with Large Language ModelsJacob Austin, Augustus Odena, Maxwell Nye, Maarten Bosma, Henryk Michalewski, David Dohan, Ellen Jiang, Carrie Cai, Michael Terry, Quoc Le, Charles Sutton
https://arxiv.org/abs/2108.07732 Nota: Aqui é usado o bilião americano ou seja 137 milhares de milhões de parâmetros.
Cumprimentos,
João
