RoBERTa 8k przekracza 750 tysięcy pobrań

Model językowy RoBERTa 8k, udostępniony przez nasz bank, przekroczył 750 tysięcy pobrań na platformie Hugging Face.

Szczególnie imponujący był kwiecień, w którym model pobrano ponad pół miliona razy – był to najwyższy wynik wśród polskich modeli językowych w tym okresie. Dzięki temu RoBERTa 8k wyprzedziła inne znane polskie modele, takie jak Bielik czy PLLuM.

Dlaczego to ważne?

Hugging Face to największa na świecie platforma do udostępniania modeli AI. Używają jej badacze, zespoły technologiczne i firmy na całym świecie.

Setki tysięcy pobrań pokazują, że nasz model:

• jest używany w projektach,
• wspiera rozwiązania produkcyjne,
• jest wykorzystywany w praktyce przez społeczność technologiczną.

PKO Bank Polski – tworzymy technologię i dzielimy się nią

Sukces modelu RoBERTa 8k pokazuje, że bank może być czymś więcej niż odbiorcą gotowych rozwiązań. Może aktywnie współtworzyć rynek AI.

Co dało udostępnienie modelu?

• Otworzyło drogę do współpracy ze społecznością i zewnętrznymi zespołami
• Wzmocniło polski ekosystem AI
• Umożliwiło rozwój nowych zastosowań opartych na jednej technologii

Na bazie naszego modelu RoBERTa 8k powstała np. Sójka – narzędzie do wykrywania toksycznych treści w internecie, stworzone przez społeczność Bielik.AI.

„Ponad 750 tysięcy pobrań, rekordowy miesiąc i pozycja lidera wśród polskich modeli językowych jasno pokazują, że inwestycje w lokalne, transparentne technologie AI mają sens. To również dowód, że polskie rozwiązania są dostrzegane i wykorzystywane na świecie, a kompetencje budowane w PKO Banku Polskim przekładają się na wpływ, który wykracza poza naszą organizację.”

Jeśli jeszcze nie znasz RoBERTy

Model RoBERTa to polski model językowy zdolny analizować dokumenty do 15 stron A4. Stworzony z myślą o polskich realiach prawnych i językowych. Mniejszy, tańszy, a w wielu zadaniach skuteczniejszy niż popularne modele generatywne, np. GPT od OpenAI. Powstał dzięki współpracy naszych ekspertów z Biura Rozwoju Sztucznej Inteligencji z zespołem AI Lab z Ośrodka Przetwarzania Informacji – Państwowego Instytutu Badawczego (OPI) pod kierownictwem dr. Marka Kozłowskiego. Jest to jeden z pierwszych produktów projektu „Budowa innowacyjnych dużych modeli językowych i platformy usługowej do serwowania modeli wielozadaniowych wewnątrz banku” (numer projektu: FENG.01.01-IP.01-A028/23-00, wysokość wkładu z Funduszy Europejskich: 9,2 mln zł).