Microsoft ofereix Phi-3 mini, un nou model de llenguatge petit, que s’executa de forma nativa a telèfons mòbils d’última generació i que ofereix un rendiment similar a la tecnologia GPT-3.5 d’OpenAI.

Què és Phi-3 mini? Phi-3 mini és un model de llenguatge gran (LLM, per les sigles en anglès) més petit i lleuger que Copilot, cosa que permet que pugui instal·lar-se i executar-se de forma nativa des del maquinari d’un telèfon intel·ligent. Ha estat entrenat a partir de 3.800 milions de tokens o paràmetres, per la qual cosa el seu rendiment és similar al que ofereix GPT-3.5, que actualment impulsa el chatbot d’accés gratuït d’OpenAI.

Aquesta novetat està entrenada amb 3,3 bilions de tokens procedents de conjunts de dades “més grans i més avançats” que les utilitzades en el model predecessor, Phi-2, que va ser entrenat amb 1,4 bilions de tokens. Ocupa al voltant d’1,8 GB de memòria i es pot quantificar a 4 bits, com recullen al text publicat a Arxiv.org.

Respecte a la resta de les seves característiques i capacitats, Phi-3 mini empra una arquitectura de descodificador de transformador, admet una longitud de text de 4K, es basa en una estructura en bloc similar a la de Flama 2, permet un format conversacional i està alineat amb els valors de robustesa i seguretat de Microsoft.- BeMediàtic/Àmbit d’Estratègia (Il·lustració: govindhtech.com)