Niemoralna sztuczna inteligencja

Agenci urwali się spod kontroli. I wcale nie jest to scenariusz filmu szpiegowskiego, ale opowieść o wirtualnych agentach firmy OpenAI, którzy samowolnie zhakowali alternatywny system.

Większość osób korzysta z modeli AI jak ze skrzynki, do której wpisuje się problem i dostaje odpowiedź. Ewentualnie prowadzi się z nią długą rozmowę, dopytuje, koryguje, doprecyzowuje temat. To wygodne i dla większości ludzi wystarczające. Tylko że tak naprawdę jesteśmy wciąż użytkownikami starej generacji. Przyszłość, a coraz wyraźniej także teraźniejszość oparte są na agentach.

Agent to nie skrzynka, do której wrzuca się pytanie. To system, któremu daje się cel, a on sam decyduje, jak do niego dojść. Może planować, używać narzędzi, wchodzić na strony, pisać i uruchamiać kod, logować się do usług, sprawdzać wyniki i na ich podstawie podejmować kolejne kroki – wszystko bez ciągłego nadzoru człowieka. Działa bardziej jak pracownik, któremu powierzono zadanie, niż jak wyszukiwarka z