“AI”nın tanrı atası” Yoshua Bengio, AI yarışının təhlükəsizlikdən çox sürəti prioritə etdiyini xəbərdar edir

Bu, nədənsiz və təhlükəli nəticələr riski yaradır

O, aparatlarda simulye olunmuş çizgi film personajlarını təqdim edən çatbottan elmi tədqiqat köməkçilərinə qədər hər cür AI vasitəsini işlədən sinir şəbəkələrinin əsaslarını yaratmada kömək göstərən “AI tanrısı atası” Yoshua Bengio, AI inkişafçılarına təcili xəbərdarlıq etdi. Şundur ki, onun Sky News müsahibəsində açıqladığı kimi, hər zaman daha güclü AI sistemləri inkişaf etdirmə yarışı, ona görə də çox dağınıq olduğu bir sürətdə artır.Bu, ən yaxşı çatbottunu kimin ya da kimin daha çox maliyyələndirilməsi haqqında deyil. Bengio, mahir AI’ya qarşı sürətli, nizamsız irəliləmənin təhlükəsizlikin ən yüksək prioritet kimi götürülməməsi halında katastrofik nəticələr doğura biləcəyinə inanır. Bengio, inkişafçıları bir-birilə yarış və sürətlə, haqqı yoxlamaq o günkü əhəmiyyətli bir məhsulu milyardlarla dəyərində yeni bir layihəyə start vermək və rəqibin arxasından gəlmək üçün fəal olan təzyiqlərin altında qaldığını təsvir edir. Lakin cəmiyyət üçün bu durmayabilir.Çin AI şirkətlərinin, məsələn DeepSeek-in, müstəqil AI qabiliyyətlərinə qəzəbli baxışı, qərb şirkətlərinin və dövlətlərin diqqətini çəkməkdədir. Keyfiyyətli təəssüblər yerinə düşünmək və riskləri diqqətlə nəzərdən çıxarmaq yerinə, böyük texnologiya şirkətləri AI inkişafını üstünlük üçün sürətləndirirlər. Bengio, bu durumun tələsik yerlərə yol açacağına, qoruyucu tədbirlərin yoxluğuna, və biz hələ ki tam olaraq anlamadığımız davranışlara səbəb ola bilər dedi.Bengio, daha güclü AI nəzarəti üzərində ehtiyac olduğunu bildirdi, lakin son hadisələr onun mesajını daha da tələsik etdiyi görünür. Hazırki an, ya köməyin əhəmiyyətli nizamlar və təhlükəsizlik protokolları tətbiq edirik, yaxud AI inkişafını öngörülməz bir şeyə yol veririk. Sonuçda, daha da çox AI sistemləri ancaq informasiya emal edirlər, lakin özbaşına qərarlar verə bilirlər.Alaqədar olabilər…
DeepSeek və ChatGPT axtarış imkanları arasında şaşırtıcı bir fərq aşkar etdimCari AI modellərinin təhlükəsizliyini artırmaq üçün İnteqrasyon Şirkəti növbə ilə AI modellərini təhlil etmək OpenAI tərəfindən gələcəkdə qəbul edilən bir ideyamı təhlil edəcək, ya da yalnızca niyə qaydalarını yazmasına icazə verəcəkdir?OpenAI-nin həmrəylikçisi yeni şirkəti, “Safe Superintelligence” təklif edir – gülünc bir şayiş olmayan bir rüya
Azərbaycan