Son dönemde büyük popülarite yakalayan yapay zeka robotu ChatGPT’nin geliştiricisi OpenAI şirketinin, “Q*” kod adıyla yeni bir sistem geliştirdiği ve bunun “insanlığı tehdit edecek” potansiyele sahip olduğu bildirildi. Yeni tartışma, Sam Altman'ın OpenAI CEO'luğundan kovulup Microsoft'a geçmesinin ardından birkaç gün içerisinde geri gelmesiyle devam eden kaos sürecini daha da alevlendirebilir.
Tehlikeli sonuçlar
Reuters’ın OpenAI’daki bazı kaynaklara dayandırdığı haberine göre bazı OpenAI çalışanları, Altman CEO’luk görevinden kovulmadan kısa süre önce, yönetim kuruluna bir mektup yazdı ve “Q*” ismiyle bilinen yeni bir sistemin tehlikelerinden bahsetti. Geliştiriciler, Q*’nun “genel yapay zeka” (AGI) olarak bilinen sistemlerde büyük bir atılım olabileceğini inandıklarını söyledi. AGI, OpenAI tarafından, ekonomik açıdan değerli sayılan görevlerin çoğunda insanları aşan otonom sistemler olarak tanımlanıyor. Q*’nun diğer sistemlerden farkının, matematiksel işlemlerde başarılı olması olarak açıklanıyor. Şu anki yapay zeka sistemleri, istatistiksel tahminler yoluyla yazma ve dil konusunda başarı yakalarken, tek bir doğrunun bulunduğu matematik alanında oldukça zayıf durumdalar. Matematikteki gelişmenin, yapay zekanın insan zekasına benzeyen bir muhakeme yeteneği geliştirmesinin önünü açacağına inanılıyor. Bazı bilgisayar bilimcileri, yüksek zekalı ve muhakemeye sahip makinelerin, örneğin insanlığın yok edilmesinin kendi çıkarlarına olduğuna karar verip veremeyecekleri gibi oldukça tehlikeli sonuçlar ortaya koyabileceğine inanıyor.
Kim durduracak?
OpenAI’daki görevine çarşamba günü geri dönen Altman'ın, geçen hafta görevden alınmasında yapay zekanın tehditleri konusunda şirket yönetimi ile arasındaki görüş ayrılıkları olabileceği kaydedilmişti. Altman yapay zeka konusunda tehditleri görmezden gelerek bu teknolojinin gelişimini ve fonlanmasını agresif şekilde savunurken, Ilya Sutskever başta olmak üzere OpenAI’ın bazı yönetim kurulu üyelerinin potansiyel tehditleri azaltma amacıyla ihtiyatlı bir gelişimi savunuyordu. Altman’ın CEO’luğa dönmesiyle yönetim kurulu da yenilenirken, Q* gibi sistemlerde ne kadar ihtiyatlı davranılacağı da daha büyük bir soru işareti haline geldi. Tesla ve SpaceX'in CEO'su Elon Musk da, Altman'ın ChatGPT’den kovulmasının ardından, "OpenAl’ın yönetim kurulu, neden bu kadar sert bir karar almak zorunda hissettiğini kamuoyuna açıklamalı” şeklinde konuşmuştu. Musk ayrıca şirketi geliştirdikleri teknolojiler konusunda daha şeffaf olmaya da çağırdı.
