Microsoft 2018-ci ildə AIA’nın inkişafını proqnozlaşdırdığı üçün AI qırmızı komandasını yaradıb. Qırmızı komanda düşməni təmsil edir; və qarşıdurğulu şəxs kimi qəbul edir. Komandanın son ağ çoxşəhərli kağızı AI sistemlərində və LLM-lerində yayılan yayğın çürükləri ümid edir.
Son yeddi ildir ki, Microsoft AI ‘qırmızı komandası’ ilə sərhədləri müəyyənləşdirir. Gələcəkdə məruz qalınan təhlükələrə qarşı mane olmaq məqsədi ilə qurulan bu komanda, təhlükənin nişanə tutaclarının rolunu qəbul edir, əsl dünyada idarə olunmadan əvvəl çürükləri identifikasiya etmək məqsədini güdür. Hazırda, Microsoft illərlə işlənmişdən sonra, komandadan gələn ağ kağız yayımlandı, ən əhəmiyyətli aşkarlamalarından bir neçəsini göstərir.
Microsoft’un qırmızı komanda ağ kağızının aşkarlamaları
Illərdir Microsoft’un qırmızı komandasının fokus sahəsi ənənəvi çürüklərdən çox AI-ə xas təəssülatlara qədər genişlənmiş, Microsoft’un öz Copilotu ilə birlikdə açıq mənbə AI modellərində işləməkdədir. Qağız insan ekspertizini otomatlaşdırma ilə birləşdirmənin, riskləri effektiv şəkildə aşkarlaması və yatırılması məqsədini vurğulayır. Bir əsas dərslərdən biri, yaradıcılıq AI-nin müasir tətbiqlərə inteqrasiyasının yalnızda kibertəhdidlərin səthini genişləndirməkla qalmadığını, həmçinin unikal məsələlər gətirdiyini göstərir. Məsələnə modelin sistem səviyyəsi instruksiyaları və istifadəçi təyinatları arasındakı fərqi ayırd etməməsindən istifadə edən təbqələr, hücumçuların nəticələri manipulyasiya etməsinə imkan verir. Bu arada, eskimiş proqram tələb etmələri və yersiz təhlükəsizlik mühəndisliyi, əsas risklər kimi əhəmiyyətli qalır və Microsoft insan ekspertizini onlara qarşı çıxmağda vəzmanlıq kimi hesab edir. Komanda avtomatlasma ətrafındakı risklərin effektiv anlaşılması üçün geniş mütalaa edilmiş sahələr kimi tibb və kibertəhlükəsizlik kimi mütəxəssislər tələb edir. Bundan əlavə, mədəni mədəniyyətə və əməyin zekisinə kibertəhlükəsizlik bacarıqlarını vurğulayır. Microsoft hamımızın, yenilənmiş praktikaların və “break-fix” dövrlərinin lazımi olduğunu vurğuladı, yəni, çürükləri müəyyənləşdirmə və zədələri üstündə əlavə testləməyə əlavə etmə dövrü. Bu qiymətləndirə bilərsiniz AI telefonları ilə müasir texnologiyalara sahib olanların göz atın Ən yaxşı AI veb saytların qurucuları haqqında məhrum məndənə müşahidə edin AI, yazılım inkişafında artan əhəmiyyətli hala gəlir.