Xavier Querol Bassols
Grau en Enginyeria de Dades i Màster en Intel·ligència Artificial
Optimització de l’Entrenament de Càrregues de Treball d’IA Distribuïdes en Sistemes de Computació Multi-node.
Optimització de l’Entrenament de Càrregues de Treball d’IA Distribuïdes en Sistemes de Computació Multi-node.
Descripció
Aquest projecte se centra en la millora de l'eficiència operativa dels Models de Llenguatge de Gran Escala (LLMs), els quals requereixen recursos computacionals massius. L'objectiu és desenvolupar un entorn de treball (framework) que identifiqui l'estratègia de paral·lelisme òptima per maximitzar el rendiment en l'entrenament distribuït. Mitjançant l'ús d'AstraSim i el seu generador sintètic d'LLMs, la recerca explora graus de paral·lelisme de dades, tensor, seqüència i canonada (pipeline). A més, s'integra un model de xarxa optimitzat que considera els efectes de la congestió per oferir recomanacions precises tant a investigadors d'IA com a enginyers de maquinari sobre compromisos de disseny (trade-offs) i colls d'ampolla.Context
En Xavier és estudiant del Màster en Intel·ligència Artificial a la Universitat Politècnica de Catalunya (UPC) i graduat en Enginyeria de Dades per la Universitat Autònoma de Barcelona (UAB). Els seus interessos principals se situen en l'aprenentatge automàtic i la visió per computador. En l'àmbit professional, ha acumulat experiència com a Enginyer de Dades a Zurich Insurance, científic de dades a Bonàrea IT i desenvolupador de solucions de processament de documents amb IA a Serimag, dotant-lo d'una visió integral del cicle de vida de les dades, des de la infraestructura fins al desplegament de models.
Iniciativa
L'elecció d'aquesta recerca respon a la voluntat d'adquirir experiència en l'àmbit de la investigació abans de finalitzar els seus estudis universitaris, aplicant els coneixements pràctics previs des d'una perspectiva analítica. El motiva especialment la rellevància actual dels LLMs i el repte d'optimitzar-ne el temps d'entrenament i reduir-ne el consum energètic, factors clau per a la sostenibilitat dels sistemes d'IA moderns.
Organització
Supervisió
Sergi Abadal Cavalle
Supervisor UPC
El contingut d'aquest lloc web reflecteix únicament els punts de vista del projecte Catedra Chip Chair UPC.
