Jak polityka dotycząca sztucznej inteligencji w Republice Południowej Afryki niszczy samą siebie
W Republice Południowej Afryki usunięto pierwszy projekt krajowej polityki dotyczącej sztucznej inteligencji po odkryciu fikcyjnych cytatów w dokumencie, które najwyraźniej zostały wygenerowane przez sztuczną inteligencję.
Akcja wycofania produktu, która wyszła na jaw po ujawnieniu fałszywych odniesień zawartych w projekcie polityki, to coś więcej niż biurokratyczna wpadka; to dokładnie ten rodzaj gafy, która może sprawić, że człowiek upuści kubek do połowy ust.
Trzeba zadać sobie pytanie: Zaraz, polityka, która miała regulować AI, właśnie została przez nią podważona? To z pewnością żenujące, ale też pouczające, bo to przestroga.
Minister komunikacji i technologii cyfrowych Republiki Południowej Afryki Solly Malatsi powiedział publiczności w zeszłym tygodniu podejrzewa, że cytaty wygenerowane przez sztuczną inteligencję zostały przypadkowo uwzględnione w projekcie dokumentu polityki bez odpowiedniej weryfikacji i przeglądu.
„Integralność projektu polityki została naruszona” – powiedział Malatsi w oświadczeniu na ten temat, co dowodzi, że nie potrzeba sztucznej inteligencji, aby zdawać sobie sprawę, że robienie czegoś, na przykład korzystanie z niego bez nadzoru człowieka, nie jest dobrym pomysłem. Ten nadzór to pas bezpieczeństwa: dopiero w wypadku samochodowym człowiek zdaje sobie sprawę, że miał zapięty pas bezpieczeństwa.
Projekt polityki miał poważne ambicje: Na początku tego miesiąca Republika Południowej Afryki zaproponowała szereg nowych instytucji i zachęt mający na celu wspieranie rozwoju i innowacji w dziedzinie sztucznej inteligencji w kraju, w tym powołanie Krajowej Komisji ds. Sztucznej Inteligencji, Rady ds. Etyki Sztucznej Inteligencji oraz Urzędu Regulacyjnego ds. Sztucznej Inteligencji, a także zapewnienie zachęt podatkowych, dotacji i subsydiów, które mogłyby stymulować lokalny rozwój sztucznej inteligencji.
Innymi słowy, Pretoria chciała znaleźć się w awangardzie wdrażania sztucznej inteligencji w Afryce, co będzie wymagało nie tylko od rządu uporządkowania spraw, ale także uniknięcia wrażenia, że działa pochopnie, bez odpowiedniej weryfikacji.
Alarm zadzwonił po Portal News24 ujawnił, że niektóre cytaty w projekcie zostały najwyraźniej sfabrykowaneTo poważna sprawa, ponieważ fałszywe odniesienia nie tylko utrudniają znalezienie i weryfikację cytatów.
Zamiast tego przypisują fałszywym twierdzeniom wiarygodność akademicką, przedstawiają wymówki dla złego postępowania i wprowadzają opinię publiczną w błąd, sugerując, że dana polityka opiera się na faktach, gdy w rzeczywistości jest to tylko iluzja.
Jeśli chodzi o politykę dotyczącą etyki, stronniczości, suwerenności danych i praw cyfrowych, nie byłaby to mała skaza, lecz plama, która odcisnęłaby się piętnem na pamięci wielu osób.
Istotnym punktem nie jest to, że Republika Południowej Afryki powinna zaprzestać prób zarządzania sztuczną inteligencją. Wręcz przeciwnie. Republika Południowej Afryki rozpoczęła już budowę niezbędnych zdolności instytucjonalnych i infrastruktury, poprzez… Krajowe ramy polityki w zakresie sztucznej inteligencji, zostanie otwarty do konsultacji publicznych w 2024 roku, aby omówić ekonomiczne możliwości sztucznej inteligencji i dylematy związane z zarządzaniem. Nie powinniśmy o tym zapominać.
Pomimo wszystkich problemów, które mogą wiązać się z wycofanym projektem, potrzeba zarządzania sztuczną inteligencją pozostaje aktualna. Sztuczna inteligencja wpływa już na finanse, edukację, sektor publiczny i media; nadzieja, że regulacje po prostu poczekają, okaże się iluzją skrywaną pod maską cierpliwości.
To również podkreśla ważną kwestię dla każdej agencji rządowej, kancelarii prawnej, uniwersytetu i redakcji rozważającej wykorzystanie sztucznej inteligencji generatywnej. Upewnij się, że jesteś ostatnią linią obrony przed wszystkim, co przesyłasz. Wiem, że to oczywiste, ale właśnie wtedy wszystko się sypie.
Jeśli projekt wygląda dobrze, odniesienia wydają się akademickie, a język jest mocny, istnieje tendencja, by sądzić, że musiał zostać sprawdzony. I wtedy wszystko obróci się przeciwko tobie.
Wiarygodność łatwo podważyć, a gdy tylko powstanie podejrzenie, że projekt polityki opiera się na fikcji, debata nie skupia się już tylko na tym, „co” mówi polityka, ale także na tym, „kto zweryfikował” źródłowy materiał.
Co mogło pozostać niezauważone? Problemem jest zatem wiarygodność, a nie kompromitacja polityczna, choć kompromitacji politycznej jest mnóstwo.
Niemniej jednak decyzja Malatsiego o wycofaniu projektu propozycji polityki była słuszna, nawet jeśli wywołała zażenowanie i ból polityczny. Lepszym rozwiązaniem byłoby, aby krajowa strategia dotycząca sztucznej inteligencji (AI) opierała się na rzetelnych źródłach, a nie na błędnych źródłach, których nikt nie kwestionował. Cóż, oczywiście, że tak było, jak pokazują powyższe przykłady.
Republika Południowej Afryki ma szansę obrócić tak krępującą sytuację na swoją korzyść, zapewniając, że projekty proponowanych zmian w polityce przechodzą niezależne kontrole referencyjne, a rejestry historii zmian polityki są publikowane.
Ponadto należy wprowadzić obowiązek ingerencji człowieka na końcowych etapach procesu opracowywania, aby mieć pewność, że dokument końcowy będzie poprawny przed poddaniem go konsultacjom publicznym.
Republika Południowej Afryki potrzebuje również bardziej rygorystycznych wytycznych dotyczących tego, jak i kiedy można wykorzystywać sztuczną inteligencję w projektach politycznych. Może nie trafi to do mediów, ale jest niezbędne do zarządzania polityką, szczególnie w zakresie sztucznej inteligencji.
Jaka jest twoja reakcja?
Produkty które mogą Ci się spodobać:
