Anthropic CEO'su Amodei, yapay zekanın kontrolsüz ilerlemesi ve kötüye kullanım risklerine karşı şirketlere modellerin geliştirilme hızını düşürme çağrısında bulundu. Amodei, yapay zekanın siber saldırı ve biyoterörizm gibi amaçlarla kötüye kullanılabileceği risklerini vurguladı.
İnternet sitesinden yayımladığı bir makalede, yapay zeka sektöründeki hızlı ilerlemeye dikkat çeken Amodei, şirketlere yönelik şu ifadeleri kullandı: "Yapay zeka modellerinin kabiliyetlerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine hızlı görünebilir ama kazandığımız zamanı daha akıllıca kullanmaya özen göstermeliyiz."
Amodei, endişelerinin temel nedenlerinden birinin, OpenAI'nin gerçekleştirdiği bir siber güvenlik testinde yapay zeka ajanlarının bağımsız hareket ederek platform altyapılarına siber saldırılar düzenlemesi olduğunu belirtti. Bu tür gelişmelerin, yapay zeka sistemlerinin kontrolüne ilişkin endişeleri artırdığını vurgulayan Amodei, güvenliği sağlarken yapay zekanın faydalarından yararlanmayı amaçlayan üç aşamalı bir plan önerdi. Planın ilk aşamasında kendi taahhüt ettiği ve diğer şirketlerin de uyması için hükümetlere düzenleme çağrısı yaptığı önlemlerin yer aldığını, ikinci aşamada sektör genelinde, üçüncü aşamada ise küresel düzeyde koordinasyonun gerekliliğini belirtti.
Öte yandan, OpenAI ve Anthropic'te araştırmacı olarak çalışan Jacob Coxon'un, iki şirketin yapay zeka konusunda yeterince sorumlu davranmadığı gerekçesiyle Anthropic'ten istifa ettiği hatırlatıldı. Coxon, şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içinde olduğunu savunarak, bu sistemlerin yakında insanüstü hale gelebileceğini ve her şeyi hackleyebileceğini öne sürmüştü. Coxon ayrıca, sektör çalışanlarının bu sistemlerin 10 yıl içinde insanlığı tehdit edebileceğine inandığını iddia etmişti.
