Szef SEC twierdzi, że AI doprowadzi do krachu na rynkach finansowych

Podczas gdy firmy na Wall Street eksperymentują z technologią generatywnej sztucznej inteligencji, szef Amerykańskiej Komisji Papierów Wartościowych i Giełd (SEC) dostrzega w niej potencjalne zagrożenie. Jego zdaniem wykorzystanie AI może doprowadzić do krachu na rynkach finansowych w ciągu najbliższej dekady.

• Po sukcesie modelu GPT od OpenAI, firmy na Wall Street eksperymentują z technologią generatywnej AI, która miałaby wspierać decyzje traderów i doradców inwestycyjnych
• W opinii przewodniczącego SEC – Gary’ego Genslera, wykorzystanie modeli AI oferowanych przez jedną firmę (lub małą grupę firm) przez wiele różnych instytucji, zagraża stabilności systemu finansowego

Zależność od firm technologicznych problemem regulatorów

Chociaż giganci tacy, jak Goldman Sachs i Deutsche Bank zabronili pracownikom korzystania z chatbotów, wiele firm na Wall Street podjęło się wdrażania podobnych technologii.

JP Morgan złożył wniosek o patent na „Index GPT”, wspierający pracę traderów, natomiast Morgan Stanley uruchomił model bazujący na GPT-4, który ułatwia pracownikom dostęp do informacji. Ma on zapewniać doradcom inwestycyjnym szybki dostęp do bazy danych składającej się z około 100 000 dokumentów.

Gary Gensler, przewodniczący amerykańskiej komisji SEC, w rozmowie z Financial Times, ostrzega, że nieograniczona regulacjami adopcja nowej technologii może szybko stać się źródłem problemów. Wynika to z ryzyka związanego z korzystaniem z tych samych modeli AI przez różne podmioty w świecie finansów: 

Myślę, że w przyszłości będziemy mieli kryzys finansowy i w późniejszych raportach ludzie powiedzą: 'Aha! Polegaliśmy na jednym modelu lub agregatorze danych.

Jego zdaniem, z uwagi na ograniczoną liczbę firm oferujących AI, różne instytucje finansowe będą polegać na modelu dostarczanym przez jedną spółkę. Tym samym błędy w jednym modelu AI mogą wpłynąć na cały system finansowy.

Gensler zasugerował też, że regulacja sztucznej inteligencji wymaga współpracy różnych agencji federalnych i wymienił zależność instytucji finansowych od zewnętrznej infrastruktury producentów AI jako jedno z największych wyzwań: 

Jest to kwestia stabilności finansowej, ponieważ większość naszych regulacji dotyczy pojedynczych instytucji, a tutaj mamy do czynienia z problemem horyzontalnym, w którym wiele instytucji może polegać na tym samym modelu bazowym lub agregatorze danych. Nawet jeśli obecne środki zostałyby zaktualizowane, nadal nie rozwiązują one problemu horyzontalnego – jeśli wszyscy polegają na modelu bazowym, a model ten nie znajduje się u brokera-dealera, ale w jednej z dużych firm technologicznych.