Silo AI прадстаўляе Poro, новую моўную мадэль з адкрытым зыходным кодам (LLM), накіраваную на развіццё шматмоўных магчымасцей штучнага інтэлекту для еўрапейскіх моў.
Poro з’яўляецца першай мадэллю, прызначаную ў канчатковым выніку ахапіць усе 24 афіцыйныя мовы Еўрапейскага саюза. Мадэлі распрацоўваюцца SiloGen, аддзелам генератыўнага штучнага інтэлекту Silo AI, створаным у канцы 2022 года, а таксама даследчай групай TurkuNLP Універсітэта Турку.
Мадэль Poro 34B з параметрамі 34,2 мільярда, названая ў гонар слова «паўночны алень» на фінскай мове, выкарыстоўвае трансфарматарную архітэктуру BLOOM з убудаванымі ALiBi. Яна навучана на раздзеле шматмоўнага набору даных з 21 трыльёна токенаў, які ахоплівае англійскую, фінскую мовы і мовы праграмавання, такія як Python і Java.
