±Współczesne modele AI opierają się na tak skomplikowanych procesach, że ich twórcy nie potrafią w pełni wyjaśnić przyczyn konkretnych zachowań - nazywane jest to efektem czarnej skrzynki, otwiera się w nowym oknie, który szerzej omawialiśmy w GeekWeeku. Znane są praktycznie tylko dane wejściowe i wyjściowe. Analiza generowanego tekstu pozostaje więc jednym z nielicznych narzędzi kontroli, choć i ona bywa niedoskonała.
±"Wszystkie dotychczasowe ewaluacje agentów LLM przypominają egzaminy: dyskretne zadanie, czyste środowisko i wynik uzyskany w kilka minut lub godzin" - wyjaśniają badacze w pracy opublikowanej w serwisie arXiv. arXiv, otwiera się w nowym oknie. "Uważamy, że to podejście nie pasuje do warunków wdrożeniowych systemów autonomicznych, gdzie właściwy horyzont czasowy wynosi tygodnie lub miesiące, a kluczowe dynamiki ujawniają się dopiero z czasem".
±Microsoft w swoim niedawno opublikowanym projekcie zbioru reguł dla "humanistycznej superinteligencji" ogłosił, że autonomiczne oprogramowanie oprogramowanie, otwiera się w nowym oknie nie może stosować nieczytelnego dla ludzi języka komunikacji - zarówno w komunikacji z człowiekiem, jak i innymi cyfrowymi instancjami. CEO korporacji, Satya Nadella, napisał z kolei 13 września na platformie X, że jeżeli dany rodzaj AI nie pomaga ludzkości i nie znajduje się pod kontrolą człowieka, to nie warto go rozwijać. Mimo to część środowiska inżynieryjnego dostrzega w opisanym wyżej zjawisku pewne korzyści - przede wszystkim szansę na optymalizację przepływu danych.