PKO Bank Polski pokazał dwa własne modele generatywnej sztucznej inteligencji: Dużą Genię i Małą Genię. Powstały we współpracy z Ośrodkiem Przetwarzania Informacji – Państwowym Instytutem Badawczym (OPI PIB), w projekcie współfinansowanym przez Narodowe Centrum Badań i Rozwoju, i zostały dostosowane jednocześnie do polszczyzny oraz do języka finansów. Większy model ma obsługiwać złożoną pracę z tekstami bankowymi, mniejszy jest na tyle kompaktowy, że według banku może działać bezpośrednio na telefonie.
W mediach informacja krążyła głównie jako ciekawostka, z naciskiem na nazwy, które bank zgłosił do Urzędu Patentowego. Więcej mówi jednak sam kierunek projektu. Instytucja, która przetwarza wrażliwe dane milionów klientów i działa pod ścisłym nadzorem regulacyjnym, musi odpowiedzieć sobie na pytania o to, czyje modele wykorzystuje, gdzie są one uruchamiane i kto kontroluje ich rozwój. PKO BP konsekwentnie wybiera odpowiedź, w której przynajmniej część tej technologii powstaje w Polsce i pozostaje pod kontrolą banku.
Jak działają Duża i Mała Genia
Według banku Duża Genia to pierwszy w Polsce duży model generatywny dostosowany jednocześnie do języka polskiego i domeny finansowej. Ma służyć do zaawansowanej pracy z tekstami bankowymi, od przygotowywania specjalistycznych treści po realizację złożonych poleceń. To obszar, w którym uniwersalne modele dobrze oddają ogólny sens, ale potrafią zgubić precyzję terminologii, kontekst regulacyjny albo niuanse polskiej składni w dokumentach prawnych i produktowych.
Mała Genia ma inne przeznaczenie. Jej atutem jest kompaktowy rozmiar, który pozwala uruchomić model na urządzeniu mobilnym. Bank wskazuje trzy typy zadań: generowanie odpowiedzi na podstawie dostarczonego kontekstu, upraszczanie trudnych tekstów oraz wywoływanie funkcji. Ten ostatni punkt łatwo przeoczyć, a w praktyce może być najważniejszy, bo oznacza, że model nie musi kończyć pracy na napisaniu odpowiedzi. Może przełożyć polecenie użytkownika na konkretną akcję w aplikacji.
Oba modele powstały w ramach współpracy banku z OPI PIB. Ośrodek opisywał je wcześniej jako narzędzia lepiej rozumiejące terminologię bankową i potrzeby zarówno klientów, jak i pracowników banku. Nazwy wybrano w głosowaniu społeczności zajmującej się AI spośród propozycji zgłoszonych przez pracowników PKO BP.
Dlaczego bank buduje własne modele językowe
Najprostsze wyjaśnienie dotyczy języka. Globalne modele trenowane są przede wszystkim na danych anglojęzycznych, a polszczyzna z bogatą fleksją i specyficzną terminologią prawno-finansową pozostaje dla nich językiem drugoplanowym. W bankowości różnica między odpowiedzią ogólnie poprawną a precyzyjną ma realne znaczenie. Pomylenie oprocentowania nominalnego z RRSO albo nieścisłe streszczenie warunków umowy oznacza ryzyko reklamacji, a w skrajnym przypadku problem z nadzorcą.
Drugim powodem jest kontrola. Model rozwijany przez bank i uruchamiany na jego infrastrukturze pozwala samodzielnie decydować o tym, gdzie trafiają dane, jak model jest aktualizowany i w jaki sposób można go audytować. Przy rozwiązaniach dostępnych wyłącznie przez API zewnętrznego dostawcy część tych decyzji pozostaje po drugiej stronie umowy. Dla sektora objętego wymogami dotyczącymi outsourcingu, odporności operacyjnej i ochrony danych to argument o wymiernym znaczeniu.
Trzeci argument jest ekonomiczny i rzadziej pojawia się w komunikatach. Mniejsze, wyspecjalizowane modele są zwykle tańsze w utrzymaniu niż największe modele ogólnego przeznaczenia, a do wielu powtarzalnych zadań w banku w zupełności wystarczają. Podział na Dużą i Małą Genię dobrze pasuje do tej logiki: najdroższą moc obliczeniową zostawia się dla zadań, które jej naprawdę wymagają.
Od RoBERTy do Genii
Nowe modele wpisują się w strategię, którą PKO BP realizuje od dłuższego czasu. Bank wdrożył modele z rodziny PLLuM w wewnętrznej wyszukiwarce semantycznej, która pozwala pracownikom zadawać pytania w języku naturalnym i szybko docierać do procedur, regulaminów czy zarządzeń. Udostępnił też publicznie na Hugging Face model polish-roberta-8k, przeznaczony do analizy tekstu, a nie jego generowania. Na tej bazie powstała później większa wersja Sójki (Bielik Guard), otwartego narzędzia do wykrywania mowy nienawiści i innych szkodliwych treści w internecie.
Te działania łączy projekt „Budowa innowacyjnych dużych modeli językowych i platformy usługowej do serwowania modeli wielozadaniowych wewnątrz banku”. Jego nazwa dobrze oddaje ambicję: chodzi o własne zaplecze, na którym bank może uruchamiać różne modele do różnych zadań. Duża i Mała Genia przenoszą te prace z obszaru analizy tekstu do jego generowania.
Mała Genia i generatywna AI działająca na smartfonie
Z perspektywy rynku mobilnego to najciekawszy element ogłoszenia. Modele uruchamiane lokalnie na urządzeniu (on-device AI) rozwijają przede wszystkim producenci smartfonów i systemów operacyjnych. Bank, który przygotowuje własny model tej klasy, dopasowany do polszczyzny i finansów, wchodzi na teren dotąd zajmowany głównie przez platformy technologiczne. Warto przy tym pamiętać, że PKO BP mówi o możliwości działania modelu na telefonie, ale nie potwierdził, że trafi on do aplikacji dla klientów. Równie dobrze może najpierw wspierać pracowników banku.
Zalety lokalnego modelu są w bankowości wyjątkowo wyraźne. Dane potrzebne do wygenerowania odpowiedzi nie muszą opuszczać urządzenia, co upraszcza część rozważań o prywatności. Odpowiedź pojawia się bez opóźnienia związanego z komunikacją z serwerem, a podstawowe funkcje mogą działać nawet przy słabym zasięgu. Do tego dochodzi rachunek kosztów: każde zapytanie obsłużone przez procesor w telefonie klienta to zapytanie, za które bank nie płaci mocą obliczeniową w swojej infrastrukturze. Przy aplikacji, z której korzystają miliony klientów, różnica może być znacząca.
Wspomniane wcześniej wywoływanie funkcji wskazuje, dokąd ta technologia może prowadzić. Model, który rozumie polecenie w naturalnym języku i potrafi przełożyć je na wywołanie konkretnej funkcji, może stać się warstwą pośrednią między użytkownikiem a interfejsem aplikacji. Zamiast szukać właściwej zakładki, użytkownik opisuje, co chce zrobić, a model przygotowuje odpowiednią operację do zatwierdzenia. Z kolei upraszczanie tekstów ma bardzo praktyczne zastosowanie w komunikacji z klientem: regulaminy, komunikaty o zmianach warunków czy powiadomienia o bezpieczeństwie bywają dla wielu osób trudne w odbiorze, a ich zrozumiałość wpływa zarówno na zaufanie, jak i na liczbę zapytań kierowanych do infolinii.
Ograniczenia, o których mówi się rzadziej
Lokalny model to również szereg kompromisów. Aplikacja bankowa musi działać na bardzo zróżnicowanym parku urządzeń, także na starszych smartfonach z ograniczoną pamięcią i słabszymi procesorami. Każdy dodatkowy model zwiększa rozmiar aplikacji, obciąża baterię i wymaga przemyślanej strategii aktualizacji. Małe modele mają też wyraźnie mniejsze możliwości rozumowania niż duże, więc granica między zadaniami realizowanymi na urządzeniu a tymi przekazywanymi do chmury musi być precyzyjnie wyznaczona.
Największe wyzwanie dotyczy jednak bezpieczeństwa. Model, który może wywoływać funkcje w aplikacji bankowej, staje się nowym elementem powierzchni ataku. Wymaga to jasnych reguł, np. obowiązkowego potwierdzania operacji przez użytkownika, ograniczenia zestawu dostępnych funkcji i odporności na próby manipulowania modelem poprzez wprowadzane treści. W sektorze, w którym zaufanie klienta jest podstawowym kapitałem, jeden głośny incydent mógłby zaszkodzić całej kategorii rozwiązań.
Czego jeszcze nie wiemy o modelach PKO BP
Na obecnym etapie komunikat zostawia więcej pytań niż odpowiedzi. Bank nie podał liczby parametrów, nie opublikował wyników testów porównawczych ani nie wskazał konkretnych usług, w których modele zostaną wykorzystane.
Teza o pierwszym w Polsce dużym modelu generatywnym dla finansów pochodzi od samego banku i trudno ją dziś niezależnie zweryfikować. Ważniejsze od pierwszeństwa będą wyniki: jak Duża Genia wypada na tle uniwersalnych modeli w zadaniach na polskich dokumentach finansowych i jak często się myli. Dopasowanie do domeny zmniejsza ryzyko błędnych odpowiedzi, ale go nie eliminuje, a w bankowości to właśnie poziom tego ryzyka decyduje o zakresie, w jakim można powierzyć modelowi kontakt z klientem.
Otwarta pozostaje też kwestia dostępności. PKO BP udostępnił wcześniej publicznie model RoBERTa, z którego skorzystali inni twórcy polskiej AI. Jeśli przynajmniej Mała Genia trafiłaby do otwartego obiegu, mogłaby stać się punktem odniesienia dla firm budujących aplikacje mobilne z polskojęzyczną AI, także poza sektorem finansowym.
Co projekt PKO BP mówi o AI w polskiej bankowości
Najbardziej uniwersalna lekcja z tego projektu dotyczy architektury. Połączenie dużego modelu do wymagających zadań z małym modelem działającym blisko użytkownika pozwala dopasować koszt i poziom ryzyka do konkretnego zastosowania, a z tego wzorca mogą skorzystać także ubezpieczyciele, operatorzy telekomunikacyjni czy sklepy internetowe. Dla innych banków Genia jest z kolei punktem odniesienia w decyzji, czy budować własne modele, kupować dostęp do globalnych, czy adaptować otwarte polskie modele, takie jak PLLuM lub Bielik. Droga PKO BP pokazuje, że własne modele wymagają zespołu, danych i cierpliwości, ale w zamian dają kontrolę, którą trudno uzyskać w inny sposób.
O zwrocie z tej inwestycji przekonamy się, gdy Genia trafi do konkretnego procesu lub aplikacji i będzie można sprawdzić, czy skraca czas obsługi, ogranicza liczbę błędów i czy klienci lepiej rozumieją jej odpowiedzi. Już teraz widać jednak, że największy polski bank traktuje modele językowe jako element własnej infrastruktury, który chce rozwijać i kontrolować samodzielnie.
