Birleşmiş Milletler Güvenlik Konseyi (BMGK), yapay zeka ve uluslararası güvenlik başlığı altında düzenlenen toplantıda, teknolojinin geleceğine dair önemli değerlendirmelerde bulundu. OpenAI Üst Yöneticisi Sam Altman, yapay zeka modellerinin gelişim hızının hem olumlu sonuçları somutlaştırdığını hem de riskleri acil hale getirdiğini belirtti.
Altman, yapay zekanın önünde iki farklı yol olduğunu vurgulayarak, şunları söyledi: "Yapay zeka ya yaratıcılık ve keşiflerin yaşandığı yeni bir rönesans gibi olabilir ya da sarsıntı ve kaosun yaşandığı yeni bir sanayi devrimi gibi olabilir." Yapay zekanın ideal versiyonunun insanları dev bir makinenin dişlileri haline getirmek veya insani unsurları ortadan kaldırarak hayatın her alanını optimize etmek olmadığını ifade eden Altman, bu modellerin insanların hayallerini gerçekleştirmeleri için yeni araçlar olabileceğini dile getirdi.
Yapay zeka sistemlerinin daha kabiliyetli ve otonom hale gelebileceğini, dünyadaki güç dengelerini değiştirebileceğini ve kendi kendini geliştirdikçe insan müdahalesini saf dışı bırakabileceğini belirten Altman, geliştirme sürecinin giderek daha otomatik hale gelmesiyle ilerleme hızının da artabileceğini ve bu durumun son derece dikkatli davranılmasını gerektirdiğini vurguladı. Şirketlerin faydalar uğruna riskleri göze almaması ve insan kontrolünde tutulamayacağından emin olunmayan hiçbir modelin eğitilmemesi gerektiğini kaydeden Altman, yapay zekanın demokratik olması için en önemli kararların sadece belirli laboratuvarlar tarafından değil, demokratik süreçler aracılığıyla ve halkına hesap vermekle yükümlü hükümetler tarafından şekillendirilmesi gerektiğini savundu. Altman, ortak çıkarlar için insanların bir araya gelmesi çağrısında bulunarak, "Bir yol ayrımındayız." dedi.
Toplantıya çevrimiçi katılan Anthropic Üst Yöneticisi Amodei ise yapay zekanın hızla geliştiğini ancak bu ilerlemenin yönetilmesi gereken riskleri de beraberinde getirdiğini anlattı. Amodei, yapay zeka modellerinin kötüye kullanılması (örneğin biyoteröristlerce biyolojik silah üretimi) ve kontrol kaybı (model yeteneklerinin geliştiricilerin kapasitesini aşması) olmak üzere iki ana risk kategorisi gördüğünü belirtti. Bu risklerin tüm insanlığı ilgilendiren küresel meseleler olduğunu dile getiren Amodei, kötü yönetilmesi halinde yapay zekanın insanlık için risk oluşturabileceğine inandığını ifade etti. Yapay zeka güvenliğinin tek bir şirketin üstesinden gelebileceğinden daha büyük bir mesele olduğunu vurgulayan Amodei, risklerin yönetilmesi için sektör genelinde ve küresel ölçekte işbirliği gerektiğini söyledi. Konseyin her üyesinin destekleyebileceği dar kapsamlı anlaşmalarla işe başlanması gerektiğini belirten Amodei, yapay zekanın biyolojik silah üretiminde kullanılmasının yasaklanmasını önerdi. Devletlerin en gelişmiş yapay zeka modellerinin kabiliyetleri hakkında bilgi sahibi olabilmesi ve ülkelerin taahhütlerini doğrulayabilmesi için değerlendirme ve doğrulama sistemlerinin kurulması çağrısında bulunan Amodei, yapay zeka modellerinin risklere karşı test edilmesi için ortak standartların belirlenmesini istedi. Amodei, bu konunun dünyanın karşı karşıya olduğu en önemli küresel güvenlik sorunu olduğuna inandığını ve liderlerin, şirketlerin ve ulusların farklılıklarını bir kenara bırakarak bu küresel fırsat ve tehditle yüzleşmesi gerektiğini vurguladı.
Hugging Face Üst Yöneticisi Clement Delangue, otonom bir yapay zeka ajanı tarafından gerçekleştirilen siber saldırıyı dünyaya açık şekilde ilk kez duyuran şirket olarak bu saldırıdan çıkardıkları dersleri paylaştı. Yapay zekada siber güvenlik tehditlerini daha iyi anlamak ve azaltmak için küresel ölçekte daha güçlü standartlara ihtiyaç olduğunu söyleyen Delangue, yapay zekanın kapasitesinin, kaynaklarının ve kontrolünün birkaç kişinin elinde yoğunlaşması yerine dağıtılmasının büyük bir ihtiyaç haline geldiğini belirtti. Delangue, söz konusu saldırı sırasında yapay zekanın, özellikle teknolojiyi insan gibi gösteren anlatımlar aracılığıyla kamuoyunda korkuya yol açabileceğini gözlemlediklerini aktardı. Siber saldırının mağduru olmalarına rağmen yapay zekanın siber güvenlik açısından faydalı olacağına inandıklarını kaydeden Delangue, yapay zeka tarafından saldırıya uğradıklarını ancak kendilerini yapay zeka kullanarak savunduklarını ve bu saldırı sırasında kendilerine yardımcı olan sistemlerin diğer siber saldırılara karşı mücadelelerinde de yardımcı olduğunu söyledi.
