Usprawnić sztuczną inteligencję i spowodować, aby stała się wiarygodnym i bezpiecznym źródłem danych – to nadrzędny cel nowego ośrodka badawczego: Centrum Wiarygodnej Sztucznej Inteligencji (Centre for Credible AI, „CCAI”), który właśnie rozpoczyna swoją działalność na Politechnice Warszawskiej. Uruchomienie Centrum było możliwe dzięki środkom w wysokości prawie 30 mln zł z programu Fundusze Europejskie dla Nowoczesnej Gospodarki (FENG), które w drodze konkursu przyznała Fundacja na rzecz Nauki Polskiej w ramach działania Międzynarodowe Agendy Badawcze.
Dzięki Funduszom Europejskim Fundacja na rzecz Nauki Polskiej od kilku lat wspiera powstawanie centrów doskonałości w Polsce. CCAI to pierwszy ośrodek poświęcony badaniom nad AI, który będzie działał w ramach MAB.
„Wykorzystywanie AI staje się już powszechne, a zastosowania są coraz bardziej poważne – np. w medycynie czy przemyśle obronnym. To ogromna odpowiedzialność – sztuczna inteligencja może kosztować życie ale też, co chciałbym mocno podkreślić, może pomóc to życie uratować. Dlatego ważne jest, abyśmy inwestowali nie tylko w rozwój technologii, ale również opracowywanie metod jej kontrolowania, tak aby AI była wiarygodna i bezpieczna dla nas wszystkich” – mówi prof. Krzysztof Pyrć, prezes Fundacji na rzecz Nauki Polskiej.
Nowa jednostka badawcza powstała jako odpowiedź na wyzwania związane z „czarnymi skrzynkami” algorytmów, których logika działania często pozostaje niejasna nawet dla ich twórców.
Centrum koncentruje się na rozwoju Wyjaśnialnej Sztucznej Inteligencji (Explainable Artificial Intelligence (XAI). Celem jest budowanie AI, którą można zrozumieć (dzięki technikom interpretowalności), zweryfikować (poprzez formalne testy i ocenę ryzyka) oraz kontrolować (w zgodzie z wartościami społecznymi i etycznymi).
„Żyjemy w czasach, w których to algorytm decyduje o wielu obszarach naszego życia. Chcemy mieć pewność, że działa on właściwie i że decyzje podjęte przy jego udziale będą dobre. AI to nie tylko ryzyko, ale przede wszystkim szanse” – mówi prof. Przemysław Biecek, dyrektor Centrum Wiarygodnej Sztucznej Inteligencji. W Centrum działać będą cztery grupy badawcze, w których pracować będzie łącznie ponad 20 naukowców z Polski i z zagranicy. Ośrodek rozwijać będzie nowe metody wieloetapowego wyjaśniania i walidacji modeli w dynamicznych środowiskach.
„Jedna z grup będzie badała działanie algorytmów w mediach społecznościowych, które bardzo często prowadzą do polaryzacji. Kolejne dwa zespoły skupią się na wykorzystaniu wyjaśnialnej sztucznej inteligencji, by odkrywać nowe możliwości zarówno w fizyce, jak i w naukach biologicznych. Czwarta grupa będzie się skupiać na opracowaniu nowych metod interpretacji i walidacji modeli AI” – dodaje prof. Biecek.
Efektem działalności CCAI mają być otwarte narzędzia, nowe standardy oraz wykształcenie specjalistów zdolnych projektować systemy AI, które budzą zaufanie i wspierają rozwój nauki, technologii i społeczeństwa.
„Chcemy, aby w perspektywie pięciu lat nasze Centrum stało się europejskim punktem odniesienia w zakresie wyjaśnialnej, wiarygodnej i przejrzystej sztucznej inteligencji. Dołożymy wszelkich starań, by AI służyła nauce, ludziom i społeczeństwu” – mówi prof. Biecek.
Wyniki prac Centrum będzie można zastosować w kluczowych obszarach dla społeczeństwa, takich jak medycyna, bioinformatyka czy edukacja, gdzie samo przewidywanie nie wystarcza – konieczne jest zrozumienie procesów decyzyjnych, podejmowanych przez AI.
Strategicznym partnerem ośrodka jest Fraunhofer Heinrich-Hertz-Institut (HHI) z Berlina – jeden z najbardziej prestiżowych ośrodków badawczych w Europie, specjalizujący się w telekomunikacji, przetwarzaniu sygnałów, wizji komputerowej i sztucznej inteligencji.
Międzynarodowe Agendy Badawcze (MAB) to działanie realizowane przez Fundację na rzecz Nauki Polskiej i finansowane z programu Fundusze Europejskie dla Nowoczesnej Gospodarki (FENG). Działanie umożliwia uruchomienie w naszym kraju nowych (lub rozwój już istniejących) centrów doskonałości o międzynarodowym znaczeniu, rozwijających współpracę z naukowym ośrodkiem zagranicznym oraz partnerami gospodarczymi i realizujących projekty B+R o istotnym znaczeniu dla społeczeństwa i gospodarki. Jeden projekt może otrzymać finansowanie w wysokości do 30 mln zł.
Środki z działania MAB stanowią również krajowy wkład do finansowania projektów, które uzyskają wsparcie w ramach konkursu Teaming of Excellence prowadzonego przez Komisję Europejską (Horyzont Europa). Projekty te mogą otrzymać finansowanie w wysokości do 8 mln EUR (ok. 37 mln PLN) z działania MAB.
Finansowanie jest przyznawane w drodze konkursu. Budżet całego działania wynosi ponad 445 mln zł. W dotychczas rozstrzygniętych naborach Fundacja na rzecz Nauki Polskiej przyznała środki 10 projektom (w tym trzem, które zdobyły wsparcie z konkursu Teaming of Excellence) w łącznej kwocie ponad 306 mln zł.
Więcej informacji o działaniu MAB - na stronie działania TUTAJ
