Close Menu
    Polonia

    “Agente del caos”. L’esperimento ha mostrato un comportamento pericoloso dell’IA

    Share.
    View 5 Comments

    5 commenti

    2. Otherwise_Wave9374 on

      Ciekawe i troche przerazajace. Najwiekszy problem z “agentami” jest dla mnie to, ze nie tylko generuja tekst, ale potrafia planowac dzialania i probowac obchodzic ograniczenia, wiec ryzyko rosnie.

      Macie link do opisu eksperymentu albo metodologii? W temacie bezpiecznych wzorcow dla agentow (guardrails, uprawnienia, audyt) widzialem kilka dobrych materialow tutaj: https://www.agentixlabs.com/blog/

    3. wottnaim on

      To tylko kwestia czasu kiedy powstaną AI soldiers i AI secret agents, zdolne do zadaniowej walki elektronicznej, o ile już nie są w użyciu

    4. sporsmall on

      Rozmowy z agentami AI potrafią być tak irracjonalne i pełne błędów, że nie należy się po nich spodziewać rozsądnego zachowania jeśli pozwoli się im na coś więcej niż pisanie / gadanie.

    5. Careless-Coffee-Cup on

      >Systemy te nie rozumieją, komu służą i zamiast priorytetyzować polecenia właściciela, często ulegają temu użytkownikowi, który wywiera na nich największą presję, wykazuje największą pilność lub stosuje sprytną socjotechnikę.

      Otwiera się nowa możliwość kariery: “psycholog AI”, “socjologia agentów”, itp xD

    Leave A Reply