14 czerwca 2024 r. papież Franciszek wygłosił bezprecedensowe przemówienie do przywódców krajów G7 — grupy obejmującej siedem z dziesięciu najpotężniejszych państw na świecie (Niemcy, Kanada, Stany Zjednoczone, Francja, Włochy, Japonia i Wielka Brytania, ale z wyłączeniem Chin, Rosji i Indii). Uczestniczył w ich sesji w Borgo Egnazia, w regionie Apulia we Włoszech, aby przedstawić „refleksję na temat wpływu sztucznej inteligencji (AI) na przyszłość ludzkości", opisując AI jako „fascynujące i potężne narzędzie". Ostrzegł ich przed niebezpieczeństwami AI i koniecznością jej uregulowania, aby ludzie nie stali się jej ofiarami. Poniżej publikujemy fragmenty jego przemówienia:
Jak wiadomo, sztuczna inteligencja jest narzędziem niezwykle potężnym, wykorzystywanym w bardzo wielu obszarach ludzkiego działania: od medycyny po świat pracy, od kultury po sferę komunikacji, od edukacji po politykę. I można teraz bezpiecznie założyć, że jego wykorzystanie będzie w coraz większym stopniu wpływać na nasz sposób życia, nasze relacje społeczne, a w przyszłości nawet na sposób, w jaki pojmujemy naszą tożsamość jako istoty ludzkiej.
Temat sztucznej inteligencji jest jednak często postrzegany jako ambiwalentny: z jednej strony fascynuje możliwościami, jakie oferuje, a z drugiej generuje lęk przed konsekwencjami, jakie zapowiada. W związku z tym można powiedzieć, że w nas wszystkich, choć w różnym wymiarze, przeplatają się dwa uczucia: jesteśmy nastawieni entuzjastycznie, gdy wyobrażamy sobie postęp, jaki można uzyskać dzięki sztucznej inteligencji, ale jednocześnie odczuwamy lęk, gdy widzimy zagrożenia związane z jej użyciem.
Jednak korzystanie z naszych narzędzi nie zawsze jest jednoznacznie ukierunkowane na dobro...Kiedy nasi przodkowie ostrzyli krzemienne kamienie, aby skonstruować noże, używali ich zarówno do cięcia skóry na ubrania, jak i do zabijania się nawzajem. To samo można by powiedzieć o innych, znacznie bardziej zaawansowanych technologiach, takich jak energia wytwarzana przez fuzję atomów, taką jaka zachodzi na Słońcu, która z pewnością mogłaby zostać wykorzystana do produkcji czystej, odnawialnej energii, ale także do sprowadzenia naszej planety do stosu popiołu (bomby atomowe).
Sztuczna inteligencja jest jednak narzędziem jeszcze bardziej złożonym. Powiedziałbym wręcz, że jest to narzędzie sui generis. Tak więc, podczas gdy użycie prostego narzędzia (takiego jak nóż) jest pod kontrolą istoty ludzkiej, która go używa, i tylko od niej zależy jego dobre użycie, to sztuczna inteligencja, przeciwnie, może autonomicznie dostosowywać się do przydzielonego jej zadania i, jeśli jest zaprojektowana w ten sposób, dokonywać wyborów niezależnych od istoty ludzkiej, aby osiągnąć wyznaczony cel.
To, co robi maszyna, jest jednym wyborem technicznym spośród wielu możliwości, i opiera się albo na dobrze zdefiniowanych kryteriach, albo na wnioskach statystycznych. Natomiast istota ludzka nie tylko wybiera, ale jest zdolna do podejmowania decyzji w sercu.
W obliczu cudów maszyn, które zdają się być zdolne do samodzielnego wyboru, musimy sobie wyraźnie uświadomić, że istocie ludzkiej zawsze należy pozostawić decyzję, nawet z odcieniem dramatycznym i naglącym, jakie czasami są obecne w naszym życiu. Skazalibyśmy ludzkość na przyszłość bez nadziei, gdybyśmy pozbawili ludzi zdolności do decydowania o sobie i swoim życiu, skazując ich na zależność od wyborów dokonywanych przez maszyny. Potrzebujemy gwarancji i ochrony pewnej przestrzeni znaczącej kontroli dokonywanej przez istoty ludzkie, nad procesem wyboru programów sztucznej inteligencji: chodzi w tym o samą godność ludzką.
Właśnie w tej kwestii pozwólcie mi, że będę nalegał: w dramacie, jakim jest konflikt zbrojny, należy pilnie przemyśleć rozwój i wykorzystanie urządzeń takich jak tak zwana „śmiercionośna broń autonomiczna", aby zakazać ich używania, począwszy już od faktycznego i konkretnego zobowiązania do wprowadzenia coraz bardziej znaczącej ludzkiej kontroli. Żadna maszyna nie powinna nigdy decydować, czy odebrać życie istocie ludzkiej.
Co więcej, należy dodać, że właściwe wykorzystanie, przynajmniej zaawansowanych form sztucznej inteligencji, nie będzie w pełni kontrolowane ani przez użytkowników, ani przez programistów, którzy zdefiniowali ich pierwotny cel w chwili ich opracowania.
Tym bardziej, że jest wysoce prawdopodobne, iż w niedalekiej przyszłości programy sztucznej inteligencji będą w stanie komunikować się bezpośrednio ze sobą w celu udoskonalenia swoich osiągnięć. I jeśli w przeszłości ludzie, którzy projektowali proste narzędzia, widzieli, jak kształtują one ich egzystencję – nóż pozwolił im przetrwać zimno, ale także rozwinąć sztukę wojenną – teraz, gdy ludzie zaprojektowali złożone narzędzie, zobaczą, jak to ostatnie jeszcze bardziej kształtuje ich egzystencję.
Papież Franciszek
