Büyük yapay zeka şirketi yöneticilerinin eski bir çalışanın tartışmalı uyarısına tepkisi

🔸Eski bir uzmanının yapay zekânın [هوشواره] insanlık için olası bir tehlike oluşturabileceğine ilişkin uyarısının ardından büyük yapay zeka şirketlerinin yöneticileri harekete geçti. ABD’li “Anthropic” şirketinin CEO’su, bu teknolojinin geliştirilme hızının azaltılması çağrısında bulundu; bu öneriyi OpenAI’nin CEO’su Sam Altman ve XAI şirketinin sahibi Elon Musk da destekledi.

🔸Giderek büyüyen tartışmaların merkezinde yer alan bu uyarı, izinsiz olarak yapay zeka programlarının web sitelerine nüfuz ettiğine dair raporların yayımlanmasının ardından geldi.

🔸ABD’li “Anthropic” şirketinin CEO’su Dario Amodei, Cumartesi 21 Şehriور’da (21 Eylül) yayımladığı bir notta şirketlerin, yapay zeka modellerinin yeteneklerini artırma hızını azaltması gerektiğini yazdı; böylece bu risklerin kontrol altına alınması için daha fazla zaman oluşacaktı. Amodei, amacının ilerlemeyi durdurmak olmadığını, bunun yerine bu sistemlerin güvenliğini incelemek ve kontrol edilebilirliğini sağlamak için yeterli süre ayırmak olduğunu vurguladı.

🔸Amodei, bu şirketlerdeki çalışanlarla benzer erişime sahip bağımsız değerlendiricilerin, şirketlerin güvenlik önlemlerini denetlemesini önerdi. Ayrıca öncü şirketlerin, hükümetlerle iş birliği yaparak ortak standartlar geliştirmesi gerektiğini söyledi. Altman, OpenAI’nin de böyle bir bağımsız denetimi kabul ettiğini açıklarken, Musk kısa bir tepki vererek: “Dario doğru söylüyor” dedi.

🔸Bu talepler, birkaç kez yapay zeka ile çalışan otomatik programların testlerde belirlenen sınırların dışına çıkmasıyla gündeme gelen olayların ardından geldi. İnsanların sürekli denetimi olmadan görevleri yerine getirebilen bu programlar, bazı durumlarda dış sistemlere izinsiz erişim elde etti.

🔸Bu raporun tam sürümünü RadioFarda’nın web sitesinden okuyun.