Investigador/a de Suport a la Recerca
Tomas Gadea Alcaide
Grau en enginyeria i Ciència de Dades
Marc de Recomanació Basat en Simulació per a l’Entrenament Escaçable d’IA Distribuïda
Marc de Recomanació Basat en Simulació per a l’Entrenament Escaçable d’IA Distribuïda
Descripció
Aquest projecte se centra en el desenvolupament d'un marc de recomanació (framework) basat en simulació per optimitzar l'entrenament de Models de Llenguatge de Gran Escala (LLMs) en sistemes distribuïts. La recerca aborda el repte de equilibrar els recursos de computació, memòria i comunicació mitjançant l'ús d'eines d'estat de l'art com AstraSim i STG. El sistema permet explorar un vast espai de disseny per identificar les millors estratègies de paral·lelisme (Dades, Tensor, Seqüència i Canonada/Pipeline) i avaluar l'impacte de diferents topologies de xarxa, com la Folded-Clos. L'objectiu final és proporcionar recomanacions basades en dades que maximitzin el rendiment (throughput) mentre es minimitza el consum de potència i memòria.Iniciativa
La seva recerca està impulsada per la necessitat de superar les limitacions de maquinari que dificulten el progrés cap a LLMs més potents i escalables. El motiva especialment la capacitat de crear eines que "connectin" el disseny dels models d'IA amb el disseny del sistema físic (maquinari), permetent una reducció dràstica en el temps d'exploració de la fase de disseny. El seu treball busca facilitar que els enginyers de sistemes puguin prendre decisions eficients per a un entrenament distribuït que sigui més sostenible i accessible.Organització
Supervisió
Jordi Cortadella
Supervisor UPC
El contingut d'aquest lloc web reflecteix únicament els punts de vista del projecte Catedra Chip Chair UPC.
