Konkurs - stypendium w projekcie badawczym

IT - Badania i Rozwój

Konkurs - stypendium w projekcie badawczym

5000 PLN (studia II stopnia) lub 6500 PLN (doktorant/-tka)

• Warszawa
• umowa stypednialna
• stypendium naukowe 
• praca haybrydowa / zdalna

Kierownik projektu ogłasza konkurs na 1 stypendium w projekcie badawczym „Eval FM: Rzetelna ewaluacja bezpieczeństwa w modelach AI”, finansowanym z budżetu Narodowego Centrum Nauki (konkurs SONATA), prowadzonym przez NASK-PIB.

O projekcie

Gwałtowny rozwój modeli sztucznej inteligencji, a w szczególności modeli bazowych (ang. foundation models), zrewolucjonizował takie dziedziny, jak widzenie komputerowe czy przetwarzanie języka naturalnego. Jednak powszechnie stosowane strategie adaptacji, takie jak dostrajanie (ang. fine-tuning), wiążą się z istotnymi zagrożeniami. W szczególności dostrajanie, może również prowadzić do katastrofalnego zapominania, w tym utraty zgodności z założonymi wartościami (ang. misalignment) lub pojawiania się niebezpiecznych zachowań.

Ponadto obecne praktyki ewaluacyjne pozostają niewystarczająco wiarygodne. Raportowane wzrosty skuteczności często mogą wynikać z zapamiętania danych wykorzystanych podczas pretreningu, a nie z rzeczywistej zdolności do generalizacji. Jest to szczególnie istotny problem w zastosowaniach związanych z bezpieczeństwem. Bez rygorystycznej ewaluacji deklaracje dotyczące odporności i wiarygodności modeli pozostają niepewne, narażając społeczeństwo na trudne do wykrycia zagrożenia.

CEL BADAWCZY - opracowanie metod wiarygodnej ewaluacji oraz bezpiecznej adaptacji modeli językowych, takich jak Mistral czy LLaMA. Projekt koncentruje się na poniższych kluczowych pytaniach badawczych:

1. Ewaluacja - jak projektować benchmarki, które wiarygodnie mierzą rzeczywistą zdolność generalizacji, wolną od zanieczyszczenia danymi wykorzystanymi podczas pretreningu? Oraz jak wykrywać potencjalnie ukryte podatności w modelach?
2. Adaptacja - jak dostrajać modele do zadań docelowych, zachowując jednocześnie ich zgodność z założonymi zasadami, odporność oraz bezpieczeństwo?

Metodyka będzie łączyć automatyczne wykrywanie i eliminowanie nakładania się danych treningowych i ewaluacyjnych, diagnostykę wewnętrznych aktywacji i zachowania modeli w celu identyfikacji ukrytych podatności. Ponadto rozwijane będą strategie dostrajania ograniczające katastrofalne zapominanie i pozwalające zachować zgodność z założonymi zasadami, odporność i bezpieczeństwo modelu podczas adaptacji do nowych zadań. Prace będą prowadzone na współczesnych modelach językowych, w tym multimodalnych.

Zakres prac stypendysty/stypendystki w projekcie badawczym:

• Implementacja algorytmów dostrajania oraz ewaluacji model AI;
• Badanie bezpieczeństwa modeli AI;
• Przygotowywanie prototypów i przeprowadzanie testów proponowanych rozwiązań; raportowanie wyników;
• Rozpowszechnianie wyników badań naukowych poprzez prezentowanie proponowanych koncepcji na wiodących konferencjach naukowych AI;

Nasze wymagania: 

• Status studenta/-tki (ukończone studia I stopnia w dziedzinach: informatyka, fizyka, matematyka, lub pokrewne) lub status doktoranta/-tki w wymienionych dziedzinach;
• Wiedza z dziedziny uczenia głębokiego;
• Praktyczne doświadczenie z Python oraz wybranymi frameworkami (PyTorch, Tensorflow);
• Znajomość języka angielskiego w stopniu komunikatywnym;
• Doświadczenie publikacyjne będzie dodatkowym atutem;

Prosimy o przesłanie CV zawierającego informacje o:

• wykształceniu,
• osiągnięciach naukowych, w szczególności: publikacjach w wydawnictwach/czasopismach naukowych, odbytych stypendiach, stażach naukowych, otrzymanych nagrodach,
• doświadczeniu programistycznym i uczestnictwie we wdrożeniach,
• poziomie znajomości języka angielskiego,
• innym doświadczeniu zdobytym w kraju lub za granicą.

Termin przyjmowania zgłoszeń: wydłużony do 13 listopada 2026 r. 

Termin rozstrzygnięcia konkursu: wydłużony do 4 grudnia 2026 r.

Oferta dla laureatów /-tek konkursu:

• Stypendium w wysokości 5000 PLN (student/-tka studiów magisterskich) lub 6500 PLN (doktorant/-tka) miesięcznie;
• Okres trwania stypendium: maksymalnie do 22 września 2029 r.;
• Możliwość rozwoju naukowego pod kierunkiem doświadczonych badaczy;

Konkurs jest realizowany oraz oceniany zgodnie z Regulaminem przyznawania stypendiów naukowych NCN w projektach badawczych sfinansowanych ze środków NCN Prosimy o zapoznanie się z kryteriami oceny.

Stypendium może być wypłacone wyłącznie doktorantowi/-tce przy założeniu, że doktorant/-tka spełnia wymagania określone stosownymi przepisami ustawy z dnia 20 lipca 2018 r. Prawo o szkolnictwie wyższym i nauce (t.j. Dz. U. z 2023 r. poz. 742 z późn. zm.) niezbędne do pobierania stypendium doktoranckiego przez cały okres realizacji planowanych zadań w projekcie.

Benefity

Zapewniamy dobre warunki pracy

O właściwych ludzi trzeba odpowiednio dbać. Dlatego oferujemy cały szereg dodatkowych korzyści. Od szkoleń i kursów zawodowych, poprzez zajęcia z jogi i owocowe czwartki, po dofinansowaną kartę Multisport albo zwrot za bilety do kina czy teatru. To wszystko jest jednak dodatkiem do tego, że po prostu dobrze się z nami pracuje.

Elastyczne godziny pracy

Zaczynamy między 7 a 10 rano.

Równowaga między pracą a życiem

Dbamy o zachowanie zdrowego podejścia do obowiązków służbowych.

Szkolenia i konferencje

Daje możliwość podnoszenia swoich kompetencji.

Ciekawe projekty

Działamy na pograniczu nauki, cyberbezpieczeństwa i nowych technologii.

Opieka medyczna

Każdy pracownik ma możliwość korzystania z prywatnej opieki medycznej

Karta Multisport

Zachęcamy do aktywności sportowej lub uzyskania zwrotu za wydatki poniesione na kulturę.

Dofinansowanie wypoczynku

Zwracamy część kosztów związanych z urlopem (tzw. wakacje pod gruszą).

Ubezpieczenie na życie

Dajemy możliwość zawarcia dodatkowego ubezpieczenia na życie.