Przejdź do treści

← Blog

Analiza

Modele decyzyjne i otwarte wagi zmieniają ekonomię agentów

Nowe narzędzia do szybkich decyzji i dostępnego tworzenia exploitów zmieniają sposób projektowania i zabezpieczania agentów.

Nasz własny tekst, napisany na podstawie artykułów wymienionych na końcu. Teza jest nasza, materiał dziennikarski ich.

Koszt i szybkość podejmowania decyzji przez agentów spadły niemal do zera. Integracja modeli decyzyjnych w stylu Jev przez Ollama oznacza, że proste klasyfikacje i wybory nie wymagają już kosztownych wywołań LLM. Te typowane, probabilistyczne modele odpowiadają na pytania tak-nie, wybierają opcje lub przypisują wyniki do tekstowych danych wejściowych z minimalnym opóźnieniem [1]. Dla twórców agentów oznacza to podział pracy: złożone rozumowanie pozostaje przy LLM, podczas gdy rutynowe decyzje przechodzą do wyspecjalizowanych, tańszych komponentów.

Tymczasem otwarte modele wagowe, takie jak Zhipu GLM-5.3, pokazują, że wysokie ryzyko zdolności — kiedyś dostępne tylko w systemach własnościowych — stało się towarem masowym. Zdolność modelu do tworzenia funkcjonalnych exploitów cybernetycznych dorównuje Claude Mythos Preview, przy ułamku kosztów [3]. To nie tylko obniża bariery dla atakujących; zmusza architektów agentów do założenia, że złośliwi użytkownicy mają dostęp do podobnych narzędzi. Bezpieczeństwo poprzez niejasność nie jest już możliwe, gdy otwarte modele mogą replikować chronione zdolności.

Partnerstwa przemysłowe stabilizują otwarte modele

Centrum Mistral w Monachium wskazuje, gdzie otwarte modele wagowe zyskują stabilność: w partnerstwach przemysłowych. Współpracując z niemieckim przemysłem i badaniami fizycznymi, Mistral zapewnia, że jego modele rozwiązują konkretne problemy, unikając pułapki stania się czysto akademickimi artefaktami [2]. Dla twórców agentów sugeruje to drogę — modele dostosowane do konkretnych branż, wspierane instytucjonalnie, prawdopodobnie przewyższą ogólne opcje w tych dziedzinach.

Co się zmienia dziś

  1. Oddziel decyzje od LLM, gdzie to możliwe. Modele w stylu Jev obsługują binarne wybory szybciej i taniej.
  2. Testuj przeciwko otwartym przeciwnikom wagowym. Zakładaj, że atakujący mają dostęp do modeli równie zdolnych jak twoje.
  3. Preferuj modele zakotwiczone w domenie. Współpraca przemysłowa produkuje wagi z praktycznymi ograniczeniami, redukując nieprzewidywalne zachowania.

Połączenie wyspecjalizowanych systemów decyzyjnych i rozprzestrzeniających się otwartych wag zmienia projektowanie agentów: prostsze zadania otrzymują deterministyczne narzędzia, podczas gdy złożone stają w obliczu rzeczywistości, w której równość zdolności jest podstawą.

Co przeczytaliśmy

  1. 1
  2. 2
  3. 3

Również przejrzane i odrzucone: 261 matérias examinadas de 577 reunidas, 3 lidas para este texto. Descartadas: publicado há 17804h (4), publicado há 3000h (3), publicado há 7532h (2), publicado há 7579h (2), publicado há 12264h (2), publicado há 19348h (2)

https://chimeraagent.space