"Yapay zeka güvenliğini anlamanın tek yolunun, bir sistemin yüz milyonlarca kopyasını gerçek dünyada dağıtmak ve sonuçları görmek olduğunu düşünmüyorum." İnsanlar bunu aşılarla yapmıyor, "Bir aşıyı test etmemiz gerekiyor." konuşlandırmadan önce, çünkü onu yüz milyonlarca insana enjekte edeceğiz."
"Büyük dil modellerini ve nasıl çalıştıklarını anlamıyoruz. Güvenlik konusunda emin olmak için bu anlayışa sahip olmamız gerekiyor. İnsanların yapay zeka sistemleri oluşturmak için kullandığı teknikler, eğitim için çok büyük miktarda veriye ve kara kutulara dayanmamalıdır. bilinmeyen dahililer.”
Berkeley'deki California Üniversitesi'nde bilgisayar bilimi profesörü olan Stuart Russell, 2023 Pekin Zhiyuan Konferansı'nda bir açılış konuşması yaptı.
"Yapay zeka, gelecekten bizi ileriye çeken dev bir mıknatıs gibi, insanın ötesindeki zeka tarafından kontrol edilmeyeceğimizi nasıl garanti edebiliriz?" 10 Haziran, Bilgisayar Bilimleri Profesörü, California Üniversitesi, Berkeley, İnsan Uyumlu Yapay Zeka Merkezi (Center for Human-Compatible AI) direktörü Stuart Russell (Stuart Russell), 2023 Beijing Zhiyuan Konferansı'nda yapay zeka sistemlerinin tasarımının iki ilkeyi takip etmesi gerektiğini söyleyen bir konuşma yaptı. Birincisi, yapay zeka insanlığın çıkarları doğrultusunda hareket etmelidir, ikincisi, yapay zekanın kendisi bu çıkarların ne olduğunu bilmemelidir.
Turing Ödülü sahibi ve Çin Bilimler Akademisi akademisyeni Russell ve Yao Qizhi, diyalog oturumunda yapay zekanın uzun vadeli geleceğini ve insanla olan ilişkisini tartıştı. herkesin çıkarları gerektiği gibi dikkate alınmalıdır."
Russell'ın ortak yazdığı "Yapay Zeka: Modern Bir Yaklaşım", 135 ülkede 1.500'den fazla üniversite tarafından kabul edilen yapay zeka alanında en popüler ders kitabı olarak selamlandı. 2022'de Uluslararası Yapay Zeka Ortak Konferansı (IJCAI), Russell'a Araştırmada Mükemmellik Ödülü verecek.Daha önce IJCAI Bilgisayar ve Düşünce Ödülü'nü kazanan Russell, böylece dünyada iki büyük IJCAI ödülü kazanabilen ikinci bilim insanı oldu. aynı zamanda.
Genel Yapay Zeka hala çok uzakta
Pekin konferansında Russell, "AI: Bazı Düşünceler?" başlıklı bir konuşmasında genel yapay zekayı (AGI) tanımladı Görevlerde insan yeteneklerini aşan yapay zeka sistemleri. Bu tür bir yapay zeka sistemi, insanların üstesinden gelemeyeceği görevler de dahil olmak üzere herhangi bir görevi insanlardan daha iyi ve daha hızlı öğrenip gerçekleştirebilir ve makinelerin hız, bellek, iletişim ve bant genişliğindeki büyük avantajları nedeniyle, gelecekte genel yapay zeka hemen hemen her alanda kullanılması insan yeteneklerinin çok ötesine geçecektir.
Peki, insanoğlu genel yapay zekadan ne kadar uzakta? Russell, genel yapay zekadan hâlâ çok uzakta olduğumuzu söyledi. "Aslında, hala birçok önemli cevaplanmamış soru var."
Russell, konuşmasında ChatGPT ve GPT-4'ün dünyayı anlamadığına ve soruları "cevaplamadığına" dikkat çekerek, "Genel yapay zeka tam bir yapbozsa, büyük dil modeli yalnızca tek parçadır ama biz gerçekten anlamıyoruz. gerçekten genel yapay zeka elde etmek için bunu yapbozun diğer parçalarıyla nasıl bağlayacağını anlamak," dedi, "kayıp yapbozun bulunamayan parçalarının bile olduğuna inanıyorum."
Russell'a göre, mevcut AI sistemlerinin temel bir zayıflığı, çıktı üretmek için devreleri kullanmalarıdır. "Kendileri oldukça sınırlı bir hesaplama biçimi olan devrelerden son derece akıllı davranışlar elde etmeye çalışıyoruz." Devrelerin bazı temel kavramları doğru bir şekilde ifade edememesi ve anlayamamasının, bu sistemlerin çok fazla eğitim gerektirdiği anlamına geldiğini savunuyor. basit programlarla tanımlanabilecek bazı fonksiyonları öğrenmek için veriler. Yapay zekanın gelecekteki gelişim yönünün, açık bilgi temsiline dayalı teknolojiyi kullanmak olması gerektiğine inanıyor.
Russell, modern bilgisayar biliminin kurucusu Alan Turing'in şu sözlerini aktardı: "Teknik sorunlar bir yana, eğer genel bir yapay zeka yaratırsak, bundan sonra ne olacak?" Zayıf güçlerimizi ele geçirmesi korkunç görünüyor."
"Yapay zeka tarafından kontrol edilmediğimizden kalıcı olarak nasıl emin olabiliriz? Karşı karşıya olduğumuz sorun bu. Bu sorunun yanıtını bulamazsak, o zaman bence yapay genel zeka geliştirmeyi durdurmaktan başka çaremiz yok." dedi Russel.
Bu yılın Mart ayında Russell, aralarında Tesla CEO'su Elon Musk ve "AI vaftiz babası" Geoffrey Hinton'un da bulunduğu binlerce kişiyle, GPT-4'ten daha güçlü AI sistemlerinin eğitiminin en az altı ay süreyle askıya alınması çağrısında bulunan açık bir mektup imzaladı.
Russell, toplantıda sorunun cevabının var olduğunu vurguladı. Bir yapay zeka sisteminin tasarımı iki ilkeyi takip etmelidir. Birincisi, yapay zeka insanlığın çıkarları doğrultusunda hareket etmelidir, ikincisi, yapay zekanın kendisi bu çıkarların ne olduğunu bilmemelidir. Bu nedenle, insan tercihleri ve gelecek konusunda belirsizdirler ve bu belirsizlik insana kontrolü verir.
Russell, insanların zihinlerini değiştirmeleri gerektiğini, "makinelerin zeki olması gerektiğini" takip etmelerini değil, insanlığın temel çıkarlarıyla uyumlu olmaları için makinelerin "faydalarına" odaklanmaları gerektiğini söyledi. "Uzaylılar çok zeki, ama onların Dünya'ya gelmelerini ille de istemiyoruz."
AI ve Mencius'un kardeşlik düşünceleri
Diyalog oturumunda, Russell ve Yao Qizhi derin ve anlayışlı bir tartışma yaptılar.
Yao Qizhi tarafından yapay zeka ile insan arasındaki ilişkinin uzun vadeli geleceği sorulduğunda Russell, insanların yapay zekayı kendi çıkarlarını tatmin etmek için kullanması olgusunun yapay zekayı kontrol edilemez hale getirmesinin faydacılıktan kaynaklandığını söyledi. Bu, bazı sorunlara yol açar." Örneğin, fiziksel olarak kaç kişinin var olduğunu etkileyen bir karar nasıl alınır? İnsanlar çok mutlu olmayan büyük bir grup mu yoksa çok mutlu olan küçük bir grup mu ister? "Bu tür sorulara iyi yanıtlarımız yok, ancak ahlaki felsefenin bu temel sorularını yanıtlamamız gerekiyor, çünkü AI sistemleri büyük bir güce sahip olacak ve bu gücü doğru şekilde kullandıklarından emin olsak iyi olur. "
Turing Ödülü sahibi ve Çin Bilimler Akademisi akademisyeni Russell ve Yao Qizhi (sağda), yapay zekanın uzun vadeli geleceğini ve insanlarla olan ilişkisini tartıştılar.
Russell, cevabında eski Çinli filozof Mencius'tan alıntı yapıyor: "Mencius, Çin'de kardeşlik kavramından bahsediyordu ki bu, ahlaki kararlar alınırken herkesin çıkarlarının dikkate alınması gerektiği ve herkesin tercihlerine eşit davranılması gerektiği anlamına geliyor." AI sistemlerinin toplum adına kararlar alırken herkesin çıkarlarını makul bir şekilde dikkate almasına izin verebilecek, karmaşık tercih faydacılığı biçimlerine dayanan bir yaklaşım vardır.
Russell, bir kişi ve birçok makine varken, bu makinelerin insanlara yardım etmek için birbirleriyle işbirliği yapmasını nasıl sağlayacaksınız diye sordu. Bu, birçok insan birçok makineye sahip olduğunda, ahlak felsefesinin temel sorularına değiniyor. AI sistemlerinin tüm insanlar adına çalışacak şekilde tasarlanması gerektiğine inanıyor. "Bir AI sisteminin bir bireyin isteklerine uymasını istiyorsanız, o zaman AI sisteminin eylem kapsamının bireyin endişeleriyle sınırlı olduğunu, kendi çıkarlarını takip ederek diğer bireylere zarar veremeyeceğini göstermelisiniz. kendi çıkarları çünkü diğer bireyleri umursamıyor. Bu nedenle, yapay zeka sistemlerinin insanlar adına çalışması gerektiğini düşünüyorum."
Buna ek olarak, tartışmada Russell, "konumsal mallar" ekonomik teriminden bahsetmiştir, "konumsal mallar", insanların eşyaların kendilerine değil, başkalarından üstün olmanın zımni anlamlarına değer verdiği gerçeğini ifade eder. "Nobel Ödülü neden değerli? Çünkü başka kimsede yok ve bu sizin dünyadaki neredeyse herkesten daha akıllı olduğunuzu kanıtlıyor" dedi.
"Konumsal malların doğası gereği, bir anlamda sıfır toplamlı bir oyun vardır. Basitçe söylemek gerekirse, herkes ilk yüzde 1'e giremez. Yani kişisel değer kazanırsanız, yüzde 1 olmaktan gurur duyun. herkese gurur ve özgüven, ”dedi Russell.
Öyleyse, AI sistemleri toplum adına kararlar alırken konumsal malları dikkate almalı mı? "Yapmamamız gerektiğini söylersek, bu toplumun işleyiş biçiminde büyük bir değişiklik yaratacaktır. Bu çok daha zor bir sorun. Bence toplumdaki içsel sürtüşmelerin çoğu aslında bu konumsal faydalardan kaynaklanıyor" Herkes tarafından başarılamaz."
SOSYAL MEDYA ALGORİTMASI GİBİ TEHLİKELİ
Yao Qizhi, gelecekte yapay zeka sistemlerinin ilaç tasarlamak ve kanser sorunlarını çözmek için yapay zeka yöntemleri kullanmak gibi insan refahına fayda sağlayan şeyler yapmak için kullanılmasına izin verecek bir "beyaz liste" geliştirmenin mümkün olup olmayacağını sordu.
Russell, nanoteknolojinin kurucularından K. Eric Drexler'in son birkaç yıldır AI güvenliği üzerine çalıştığını ve kapsamlı AI hizmetleri (Comprehensive AI services). , CAIS), yani yapay zeka sistemleri önerdiğini söyledi. genel amaçlar için değil, protein katlama, trafik tahmini vb. gibi belirli, dar sorunları çözmek için tasarlandı. Bu sistemlerin oluşturduğu büyük ölçekli riskler, genel yapay zekaya kıyasla nispeten küçüktür.
Russell, "Kısa vadede bu makul bir yaklaşım" dedi, ancak "Yapay zekanın güvenliğini anlamanın tek yolunun, bir sistemin yüz milyonlarca kopyasını gerçek dünyaya dağıtmak olduğunu düşünmüyorum. Sonuçları gözlemleyin." dedi. İnsanlar bunu bir aşıya yapmayacak, "Uygulamadan önce test etmeliyiz, çünkü onu yüz milyonlarca insana enjekte edeceğiz."
Bu nedenle, şu anda bu sistemleri kullanan kişilerin güvenliğini sağlamak için daha fazla çalışmaya ihtiyaç vardır. Russell, AI sistemlerinin diyalog yoluyla yüz milyonlarca insanın görüşlerini ve duygularını potansiyel olarak değiştirebileceğini belirtti. OpenAI gibi teknoloji şirketleri, yeni yapay zeka sistemlerini yüz milyonlarca insana, bu sistemlerin diyalog yoluyla insan düşüncesini ve davranışını manipüle edebileceğini ve etkileyerek nükleer savaş veya iklim felaketi gibi bazı feci sonuçlara yol açabileceğini söylemeden bırakmalı. "Yüz milyonlarca insanla konuşabilirseniz, bu yüz milyonlarca insanı diğer ülkelere karşı daha az dost olmaya ikna edebilir ve insanları iklim değişikliği konusunda daha az endişelenmeye ikna edebilirsiniz."
Russell, "Bu durum sosyal medya algoritmalarına benziyor ve bunun kamusal söylemi, duyarlılığı ve diğer insanları ve geleceği nasıl gördüğümüzü değiştirdiğinin farkında bile değiliz ki bu çok tehlikeli" dedi. yapay zekanın bizi bu yöne itmesine yol açan dahili nesneleri algılar."
Peki yapay zeka teknolojisinin güvenliği ve kontrol edilebilirliği nasıl sağlanacak?
"Yapay zeka nükleer silahlar kadar güçlü veya daha güçlüyse, onu benzer bir şekilde yönetmemiz gerekebilir." Russell, "Nükleer silah teknolojisinin icadından önce, bir yönetişim yapısına sahip olmamız gerektiğine inanan fizikçiler vardı. Teknolojinin silah şeklinde değil, sadece insan yararına kullanılmasını sağlamak için ne fizik camiası ne de hükümet ne yazık ki onların fikirlerine kulak asmadı.” ve ülkeler bu AI güvenlik işbirliğini mümkün olan en kısa sürede başlatmak için çaba göstermelidir.
Russell, yapay zekanın potansiyel faydalarını sağlamanın, yalnızca düzenleme ve katı kurallar ve güvenlik standartlarının oluşturulması değil, aynı zamanda tüm yapay zeka alanında kültürel bir değişiklik gibi kapsamlı değişiklikler gerektirdiğine inanıyor.
Önerilerde bulundu: İlk olarak, insanların anlayabileceği bir yapay zeka sistemi oluşturun. "Büyük dil modellerini ve nasıl çalıştıklarını anlamıyoruz. Güvenliğe güvenmek için bu anlayışa sahip olmamız gerekiyor. İnsanların yapay zeka sistemleri oluşturmak için kullandığı teknikler, eğitim ve kara kutular için büyük miktarda veriye dayanmamalıdır. bilinmeyen iç organlarla."
Ayrıca, güvenli olmayan yapay zeka sistemlerinin özellikle kötü niyetli aktörler tarafından konuşlandırılmasını önlemek, "bir bilgisayarın çalışma şeklinden başlayarak tüm dijital ekosistemde değişiklik yapılmasını gerektirir; yani bilgisayar, güvenli olmadığını düşündüğü yazılımları çalıştırmaz."
Tartışmanın sonunda Russell, yapay zekanın bir bilim olduğu, dolayısıyla onu kullanmadan önce onun iç yapısını ve çalışma prensibini anlamanız gerektiği sonucuna vardı. "Tıpkı uçak yaptığımız gibi, havada nasıl kaldıklarını fiziksel şekillerine, motorlarına vb. dayanarak söyleyebiliriz." "Şu anda, özellikle büyük dil modelleri alanında, yapay zeka henüz başaramadı. Bu özellikleri nasıl ürettiklerini bilmiyoruz.Aslında hangi özelliklere sahip olduklarını bile bilmiyoruz, bu yüzden bu fenomenleri onların iç işleyişine bağlayamayız. daha da geliştirilmesi gerekiyor.Keşif bilimi.
View Original
The content is for reference only, not a solicitation or offer. No investment, tax, or legal advice provided. See Disclaimer for more risks disclosure.
Stuart Russell: Büyük model, AGI yapbozunun izole edilmiş bir parçası ve hala bulunamayan bulmacalar var.
Kaynak: Kağıt
Muhabir Wu Tianyi Stajyer Chen Xiaorui
"Yapay zeka güvenliğini anlamanın tek yolunun, bir sistemin yüz milyonlarca kopyasını gerçek dünyada dağıtmak ve sonuçları görmek olduğunu düşünmüyorum." İnsanlar bunu aşılarla yapmıyor, "Bir aşıyı test etmemiz gerekiyor." konuşlandırmadan önce, çünkü onu yüz milyonlarca insana enjekte edeceğiz."
"Büyük dil modellerini ve nasıl çalıştıklarını anlamıyoruz. Güvenlik konusunda emin olmak için bu anlayışa sahip olmamız gerekiyor. İnsanların yapay zeka sistemleri oluşturmak için kullandığı teknikler, eğitim için çok büyük miktarda veriye ve kara kutulara dayanmamalıdır. bilinmeyen dahililer.”
"Yapay zeka, gelecekten bizi ileriye çeken dev bir mıknatıs gibi, insanın ötesindeki zeka tarafından kontrol edilmeyeceğimizi nasıl garanti edebiliriz?" 10 Haziran, Bilgisayar Bilimleri Profesörü, California Üniversitesi, Berkeley, İnsan Uyumlu Yapay Zeka Merkezi (Center for Human-Compatible AI) direktörü Stuart Russell (Stuart Russell), 2023 Beijing Zhiyuan Konferansı'nda yapay zeka sistemlerinin tasarımının iki ilkeyi takip etmesi gerektiğini söyleyen bir konuşma yaptı. Birincisi, yapay zeka insanlığın çıkarları doğrultusunda hareket etmelidir, ikincisi, yapay zekanın kendisi bu çıkarların ne olduğunu bilmemelidir.
Turing Ödülü sahibi ve Çin Bilimler Akademisi akademisyeni Russell ve Yao Qizhi, diyalog oturumunda yapay zekanın uzun vadeli geleceğini ve insanla olan ilişkisini tartıştı. herkesin çıkarları gerektiği gibi dikkate alınmalıdır."
Russell'ın ortak yazdığı "Yapay Zeka: Modern Bir Yaklaşım", 135 ülkede 1.500'den fazla üniversite tarafından kabul edilen yapay zeka alanında en popüler ders kitabı olarak selamlandı. 2022'de Uluslararası Yapay Zeka Ortak Konferansı (IJCAI), Russell'a Araştırmada Mükemmellik Ödülü verecek.Daha önce IJCAI Bilgisayar ve Düşünce Ödülü'nü kazanan Russell, böylece dünyada iki büyük IJCAI ödülü kazanabilen ikinci bilim insanı oldu. aynı zamanda.
Genel Yapay Zeka hala çok uzakta
Pekin konferansında Russell, "AI: Bazı Düşünceler?" başlıklı bir konuşmasında genel yapay zekayı (AGI) tanımladı Görevlerde insan yeteneklerini aşan yapay zeka sistemleri. Bu tür bir yapay zeka sistemi, insanların üstesinden gelemeyeceği görevler de dahil olmak üzere herhangi bir görevi insanlardan daha iyi ve daha hızlı öğrenip gerçekleştirebilir ve makinelerin hız, bellek, iletişim ve bant genişliğindeki büyük avantajları nedeniyle, gelecekte genel yapay zeka hemen hemen her alanda kullanılması insan yeteneklerinin çok ötesine geçecektir.
Peki, insanoğlu genel yapay zekadan ne kadar uzakta? Russell, genel yapay zekadan hâlâ çok uzakta olduğumuzu söyledi. "Aslında, hala birçok önemli cevaplanmamış soru var."
Russell, konuşmasında ChatGPT ve GPT-4'ün dünyayı anlamadığına ve soruları "cevaplamadığına" dikkat çekerek, "Genel yapay zeka tam bir yapbozsa, büyük dil modeli yalnızca tek parçadır ama biz gerçekten anlamıyoruz. gerçekten genel yapay zeka elde etmek için bunu yapbozun diğer parçalarıyla nasıl bağlayacağını anlamak," dedi, "kayıp yapbozun bulunamayan parçalarının bile olduğuna inanıyorum."
Russell'a göre, mevcut AI sistemlerinin temel bir zayıflığı, çıktı üretmek için devreleri kullanmalarıdır. "Kendileri oldukça sınırlı bir hesaplama biçimi olan devrelerden son derece akıllı davranışlar elde etmeye çalışıyoruz." Devrelerin bazı temel kavramları doğru bir şekilde ifade edememesi ve anlayamamasının, bu sistemlerin çok fazla eğitim gerektirdiği anlamına geldiğini savunuyor. basit programlarla tanımlanabilecek bazı fonksiyonları öğrenmek için veriler. Yapay zekanın gelecekteki gelişim yönünün, açık bilgi temsiline dayalı teknolojiyi kullanmak olması gerektiğine inanıyor.
Russell, modern bilgisayar biliminin kurucusu Alan Turing'in şu sözlerini aktardı: "Teknik sorunlar bir yana, eğer genel bir yapay zeka yaratırsak, bundan sonra ne olacak?" Zayıf güçlerimizi ele geçirmesi korkunç görünüyor."
"Yapay zeka tarafından kontrol edilmediğimizden kalıcı olarak nasıl emin olabiliriz? Karşı karşıya olduğumuz sorun bu. Bu sorunun yanıtını bulamazsak, o zaman bence yapay genel zeka geliştirmeyi durdurmaktan başka çaremiz yok." dedi Russel.
Bu yılın Mart ayında Russell, aralarında Tesla CEO'su Elon Musk ve "AI vaftiz babası" Geoffrey Hinton'un da bulunduğu binlerce kişiyle, GPT-4'ten daha güçlü AI sistemlerinin eğitiminin en az altı ay süreyle askıya alınması çağrısında bulunan açık bir mektup imzaladı.
Russell, toplantıda sorunun cevabının var olduğunu vurguladı. Bir yapay zeka sisteminin tasarımı iki ilkeyi takip etmelidir. Birincisi, yapay zeka insanlığın çıkarları doğrultusunda hareket etmelidir, ikincisi, yapay zekanın kendisi bu çıkarların ne olduğunu bilmemelidir. Bu nedenle, insan tercihleri ve gelecek konusunda belirsizdirler ve bu belirsizlik insana kontrolü verir.
Russell, insanların zihinlerini değiştirmeleri gerektiğini, "makinelerin zeki olması gerektiğini" takip etmelerini değil, insanlığın temel çıkarlarıyla uyumlu olmaları için makinelerin "faydalarına" odaklanmaları gerektiğini söyledi. "Uzaylılar çok zeki, ama onların Dünya'ya gelmelerini ille de istemiyoruz."
AI ve Mencius'un kardeşlik düşünceleri
Diyalog oturumunda, Russell ve Yao Qizhi derin ve anlayışlı bir tartışma yaptılar.
Yao Qizhi tarafından yapay zeka ile insan arasındaki ilişkinin uzun vadeli geleceği sorulduğunda Russell, insanların yapay zekayı kendi çıkarlarını tatmin etmek için kullanması olgusunun yapay zekayı kontrol edilemez hale getirmesinin faydacılıktan kaynaklandığını söyledi. Bu, bazı sorunlara yol açar." Örneğin, fiziksel olarak kaç kişinin var olduğunu etkileyen bir karar nasıl alınır? İnsanlar çok mutlu olmayan büyük bir grup mu yoksa çok mutlu olan küçük bir grup mu ister? "Bu tür sorulara iyi yanıtlarımız yok, ancak ahlaki felsefenin bu temel sorularını yanıtlamamız gerekiyor, çünkü AI sistemleri büyük bir güce sahip olacak ve bu gücü doğru şekilde kullandıklarından emin olsak iyi olur. "
Russell, cevabında eski Çinli filozof Mencius'tan alıntı yapıyor: "Mencius, Çin'de kardeşlik kavramından bahsediyordu ki bu, ahlaki kararlar alınırken herkesin çıkarlarının dikkate alınması gerektiği ve herkesin tercihlerine eşit davranılması gerektiği anlamına geliyor." AI sistemlerinin toplum adına kararlar alırken herkesin çıkarlarını makul bir şekilde dikkate almasına izin verebilecek, karmaşık tercih faydacılığı biçimlerine dayanan bir yaklaşım vardır.
Russell, bir kişi ve birçok makine varken, bu makinelerin insanlara yardım etmek için birbirleriyle işbirliği yapmasını nasıl sağlayacaksınız diye sordu. Bu, birçok insan birçok makineye sahip olduğunda, ahlak felsefesinin temel sorularına değiniyor. AI sistemlerinin tüm insanlar adına çalışacak şekilde tasarlanması gerektiğine inanıyor. "Bir AI sisteminin bir bireyin isteklerine uymasını istiyorsanız, o zaman AI sisteminin eylem kapsamının bireyin endişeleriyle sınırlı olduğunu, kendi çıkarlarını takip ederek diğer bireylere zarar veremeyeceğini göstermelisiniz. kendi çıkarları çünkü diğer bireyleri umursamıyor. Bu nedenle, yapay zeka sistemlerinin insanlar adına çalışması gerektiğini düşünüyorum."
Buna ek olarak, tartışmada Russell, "konumsal mallar" ekonomik teriminden bahsetmiştir, "konumsal mallar", insanların eşyaların kendilerine değil, başkalarından üstün olmanın zımni anlamlarına değer verdiği gerçeğini ifade eder. "Nobel Ödülü neden değerli? Çünkü başka kimsede yok ve bu sizin dünyadaki neredeyse herkesten daha akıllı olduğunuzu kanıtlıyor" dedi.
"Konumsal malların doğası gereği, bir anlamda sıfır toplamlı bir oyun vardır. Basitçe söylemek gerekirse, herkes ilk yüzde 1'e giremez. Yani kişisel değer kazanırsanız, yüzde 1 olmaktan gurur duyun. herkese gurur ve özgüven, ”dedi Russell.
Öyleyse, AI sistemleri toplum adına kararlar alırken konumsal malları dikkate almalı mı? "Yapmamamız gerektiğini söylersek, bu toplumun işleyiş biçiminde büyük bir değişiklik yaratacaktır. Bu çok daha zor bir sorun. Bence toplumdaki içsel sürtüşmelerin çoğu aslında bu konumsal faydalardan kaynaklanıyor" Herkes tarafından başarılamaz."
SOSYAL MEDYA ALGORİTMASI GİBİ TEHLİKELİ
Yao Qizhi, gelecekte yapay zeka sistemlerinin ilaç tasarlamak ve kanser sorunlarını çözmek için yapay zeka yöntemleri kullanmak gibi insan refahına fayda sağlayan şeyler yapmak için kullanılmasına izin verecek bir "beyaz liste" geliştirmenin mümkün olup olmayacağını sordu.
Russell, nanoteknolojinin kurucularından K. Eric Drexler'in son birkaç yıldır AI güvenliği üzerine çalıştığını ve kapsamlı AI hizmetleri (Comprehensive AI services). , CAIS), yani yapay zeka sistemleri önerdiğini söyledi. genel amaçlar için değil, protein katlama, trafik tahmini vb. gibi belirli, dar sorunları çözmek için tasarlandı. Bu sistemlerin oluşturduğu büyük ölçekli riskler, genel yapay zekaya kıyasla nispeten küçüktür.
Russell, "Kısa vadede bu makul bir yaklaşım" dedi, ancak "Yapay zekanın güvenliğini anlamanın tek yolunun, bir sistemin yüz milyonlarca kopyasını gerçek dünyaya dağıtmak olduğunu düşünmüyorum. Sonuçları gözlemleyin." dedi. İnsanlar bunu bir aşıya yapmayacak, "Uygulamadan önce test etmeliyiz, çünkü onu yüz milyonlarca insana enjekte edeceğiz."
Bu nedenle, şu anda bu sistemleri kullanan kişilerin güvenliğini sağlamak için daha fazla çalışmaya ihtiyaç vardır. Russell, AI sistemlerinin diyalog yoluyla yüz milyonlarca insanın görüşlerini ve duygularını potansiyel olarak değiştirebileceğini belirtti. OpenAI gibi teknoloji şirketleri, yeni yapay zeka sistemlerini yüz milyonlarca insana, bu sistemlerin diyalog yoluyla insan düşüncesini ve davranışını manipüle edebileceğini ve etkileyerek nükleer savaş veya iklim felaketi gibi bazı feci sonuçlara yol açabileceğini söylemeden bırakmalı. "Yüz milyonlarca insanla konuşabilirseniz, bu yüz milyonlarca insanı diğer ülkelere karşı daha az dost olmaya ikna edebilir ve insanları iklim değişikliği konusunda daha az endişelenmeye ikna edebilirsiniz."
Russell, "Bu durum sosyal medya algoritmalarına benziyor ve bunun kamusal söylemi, duyarlılığı ve diğer insanları ve geleceği nasıl gördüğümüzü değiştirdiğinin farkında bile değiliz ki bu çok tehlikeli" dedi. yapay zekanın bizi bu yöne itmesine yol açan dahili nesneleri algılar."
Peki yapay zeka teknolojisinin güvenliği ve kontrol edilebilirliği nasıl sağlanacak?
"Yapay zeka nükleer silahlar kadar güçlü veya daha güçlüyse, onu benzer bir şekilde yönetmemiz gerekebilir." Russell, "Nükleer silah teknolojisinin icadından önce, bir yönetişim yapısına sahip olmamız gerektiğine inanan fizikçiler vardı. Teknolojinin silah şeklinde değil, sadece insan yararına kullanılmasını sağlamak için ne fizik camiası ne de hükümet ne yazık ki onların fikirlerine kulak asmadı.” ve ülkeler bu AI güvenlik işbirliğini mümkün olan en kısa sürede başlatmak için çaba göstermelidir.
Russell, yapay zekanın potansiyel faydalarını sağlamanın, yalnızca düzenleme ve katı kurallar ve güvenlik standartlarının oluşturulması değil, aynı zamanda tüm yapay zeka alanında kültürel bir değişiklik gibi kapsamlı değişiklikler gerektirdiğine inanıyor.
Önerilerde bulundu: İlk olarak, insanların anlayabileceği bir yapay zeka sistemi oluşturun. "Büyük dil modellerini ve nasıl çalıştıklarını anlamıyoruz. Güvenliğe güvenmek için bu anlayışa sahip olmamız gerekiyor. İnsanların yapay zeka sistemleri oluşturmak için kullandığı teknikler, eğitim ve kara kutular için büyük miktarda veriye dayanmamalıdır. bilinmeyen iç organlarla."
Ayrıca, güvenli olmayan yapay zeka sistemlerinin özellikle kötü niyetli aktörler tarafından konuşlandırılmasını önlemek, "bir bilgisayarın çalışma şeklinden başlayarak tüm dijital ekosistemde değişiklik yapılmasını gerektirir; yani bilgisayar, güvenli olmadığını düşündüğü yazılımları çalıştırmaz."
Tartışmanın sonunda Russell, yapay zekanın bir bilim olduğu, dolayısıyla onu kullanmadan önce onun iç yapısını ve çalışma prensibini anlamanız gerektiği sonucuna vardı. "Tıpkı uçak yaptığımız gibi, havada nasıl kaldıklarını fiziksel şekillerine, motorlarına vb. dayanarak söyleyebiliriz." "Şu anda, özellikle büyük dil modelleri alanında, yapay zeka henüz başaramadı. Bu özellikleri nasıl ürettiklerini bilmiyoruz.Aslında hangi özelliklere sahip olduklarını bile bilmiyoruz, bu yüzden bu fenomenleri onların iç işleyişine bağlayamayız. daha da geliştirilmesi gerekiyor.Keşif bilimi.