Silo AI представляет Poro, новую языковую модель с открытым исходным кодом (LLM), направленную на разработку многоязычных возможностей ИИ для европейских языков.
Поро — первая модель, призванная в конечном итоге охватить все 24 официальных языка Европейского Союза. Модели разработаны SiloGen, подразделением генеративного искусственного интеллекта компании Silo AI, созданной в конце 2022 года, а также исследовательской группой TurkuNLP в Университете Турку.
Модель Poro 34B с параметрами 34,2 миллиарда, названная в честь финского слова «северный олень», использует трансформаторную архитектуру BLOOM со встроенным ALiBi. Она обучена на участке многоязычного набора данных из 21 триллиона токенов, охватывающего английский, финский и такие языки программирования, как Python и Java.
