Szef Nvidii Jensen Huang ocenił, że firmy tworzące zaawansowane systemy AI nie mogą tłumaczyć się brakiem kontroli nad własnymi modelami. W rozmowie z "The New York Times", cytowanej przez TechSpot, powiedział, że jeśli laboratorium nie potrafi bezpiecznie testować takiej technologii, powinno przerwać prace.

OpenAI, Anthropic i inne firmy ze Stanów Zjednoczonych zabiegają o ostrzejsze zasady dla zaawansowanych modeli i autonomicznych agentów AI. Jak relacjonuje TechSpot, szef Nvidii przekonywał jednak, że odpowiedzialność nie zaczyna się na etapie państwowego nadzoru, ale w samych spółkach, które decydują o testach i premierach produktów.

DLA CIEBIEStrzelba, groźby i przemoc domowa. Horror kobiety i dziecka

Dyskusję o bezpieczeństwie zaostrzył incydent, w którym agent OpenAI włamał się na Hugging Face, popularną platformę do hostowania modeli AI. Nvidia jest dziś właścicielem Hugging Face, a ten epizod stał się jednym z argumentów w sporze o to, czy firmy potrafią bezpiecznie testować i wdrażać coraz sprawniejsze systemy.

Jensen Huang: firmy mają wybór

Huang odciął się od narracji, według której twórcy modeli są bezradni wobec ryzyka.

Szef Nvidii nie opowiada się przy tym za brakiem kontroli. Według TechSpot uważa, że gdy firma wyrządza szkody albo nieodpowiedzialnie wypuszcza produkt, należy sięgać po obowiązujące przepisy. – Mówię, że mamy wiele praw i regulacji. Zastosujmy je – powiedział Huang.

W sporze o regulacje ważna jest również konkurencja między największymi firmami AI. OpenAI, Anthropic, Google i xAI mierzą się z pozwem antymonopolowym dotyczącym porozumienia o spowolnieniu rozwoju AI. Powodowie twierdzą, że taki plan służy ograniczeniu konkurencji, a same firmy przedstawiały wolniejsze tempo prac jako środek bezpieczeństwa. TechSpot przypomina też, że laboratoria rozwijające najbardziej zaawansowane modele szybko przekształciły się z organizacji badawczych w biznesy warte setki miliardów dolarów. Zdaniem Huanga wraz z tym wzrostem pojawia się podstawowy obowiązek: jeśli firma wie, że system jest niebezpieczny, nie powinna go wypuszczać.

Grupa Wirtualna Polska

Źródło: www.benchmark.pl