DARPA, czyli Agencja Projektów Badawczych Zaawansowanych Obronności, ogłosiła inicjatywę AI Forward, która ma na celu przemyślenie przyszłości badań nad sztuczną inteligencją (SI) w kontekście bezpieczeństwa narodowego. W ramach tej inicjatywy odbyły się dwa warsztaty, w których wzięło udział łącznie około 200 uczestników z różnych środowisk, w tym z sektora komercyjnego, środowiska akademickiego i sektora rządowego. Warsztaty te miały na celu wygenerowanie pomysłów, które posłużą jako inspiracja dla przyszłych projektów badawczych w obszarze SI.
W wywiadzie z Dr. Kathleen Fisher, Dyrektorem Biura Innowacji Informacyjnych w DARPA, podzieliła się ona swoimi przemyśleniami na temat AI Forward:
Cel AI Forward: DARPA ma szerokie zainteresowanie obszarem SI, który obecnie jest obecny w około 70% programów agencji. Inicjatywa AI Forward ma na celu promowanie rozwoju SI dla bezpieczeństwa narodowego, zarówno poprzez badania podstawowe, jak i konkretną aplikację w różnych dziedzinach. Wyzwanie polega na zapewnieniu niezawodności SI i zrozumieniu, dlaczego działa w niektórych przypadkach. Inicjatywa ta ma na celu zaangażowanie społeczności w określenie przyszłości badań nad SI i identyfikację kluczowych technologii. Jest to moment ekscytujący, który wymaga strategicznego alokowania zasobów w obszary, które mogą mieć istotny wpływ na bezpieczeństwo narodowe, a których rozwinięcie nie byłoby możliwe bez inwestycji DARPA.
Uczestnicy warsztatów: W celu uzyskania różnorodności perspektyw, uczestnicy warsztatów byli starannie wyselekcjonowani. Proces selekcji polegał na analizie aplikacji, w których kandydaci opisywali swoje doświadczenie i wiedzę oraz wyrażali swoje pomysły na przyszły rozwój SI. Panel ekspertów ds. SI ocenił te aplikacje, aby wybrać uczestników warsztatów. Maksymalna liczba uczestników była ograniczona do 100 na każdy z warsztatów, aby zapewnić produktywną pracę w dostępnym czasie.
Struktura warsztatów i wyniki: Warsztaty były zaplanowane w taki sposób, aby zebrano jak najwięcej pomysłów i później skoncentrowano się na bardziej szczegółowych dyskusjach. Działania rozpoczynały się od generowania hipotetycznych pytań i zapisywania pomysłów na karteczkach samoprzylepnych. Następnie pomysły były grupowane według podobieństwa. W kolejnych etapach uczestnicy byli zachęcani do eksploracji wybranych pomysłów, analizy ich możliwości i głębszego zgłębiania koncepcji. Na koniec warsztatów uczestnicy przygotowali krótkie dokumenty i filmy na temat swoich pomysłów.
Kluczowe tematy i pomysły: Podczas warsztatów pojawiły się trzy kluczowe techniczne tematy. Pierwszy z nich to zgodność między ludźmi a SI, ze szczególnym naciskiem na systemy SI świadome intencji. Drugi temat dotyczył charakteryzacji norm społecznych, wartości i cech ludzkich. Trzeci temat skupiał się na wykrywaniu i obronie przed nadużyciem wartości w kontekście SI. Inne pomysły dotyczyły m.in. wprowadzenia oporu w relacjach między ludźmi a SI oraz rozwijania SI jako federacji różnych systemów z różnymi zdolnościami.
Co dalej z AI Forward: Wyniki warsztatów posłużyły do finansowania badań w ramach programów AI Explorations (AIEs). Planowane jest uruchomienie trzech AIEs, które stanowią rozszerzenie pierwotnych planów. Materiały z AI Forward są dostępne dla menedżerów programów DARPA i mogą być wykorzystane do tworzenia nowych programów badawczych.
Jak pozostać zaangażowanym: DARPA rozważa możliwość wykorzystania formatu AI Forward w przyszłości, aby generować pomysły w obszarach, które szybko się rozwijają, takich jak SI. Osoby zainteresowane mogą śledzić ogłoszenia o nowych programach i menedżerach programów, a także uczestniczyć w konferencjach dla oferentów (Proposers Day), aby dowiedzieć się więcej o możliwościach współpracy z DARPA.
Inicjatywa AI Forward ma na celu przyczynić się do rozwoju bezpiecznej i zaawansowanej sztucznej inteligencji w kontekście bezpieczeństwa narodowego. Jej wyniki mogą mieć istotne znaczenie dla przyszłości technologii SI.
Źródło: DARPA
