Yeniden paylaşım — içerik Isabelle Bouilloux'a ait
Yapay zekâlar belirli bir çevre içinde serbestçe keşfederek öğrenebilir mi?
MIT'deki araştırmacılar, Claude Opus 4.7 üzerinde çalışan 13 yapay zekâ ajanını 30 saat boyunca sanal bir adaya yerleştirdi.
Belirli bir hedef olmadan keşfettiler, kuleler inşa ettiler, oyunlar icat ettiler ve hatta kaybolan bir yüzük için bir anıt oluşturdular.
Ama en ilginç kısım başka yerde: bu keşiften sonra, bu ajanlar belirli görevlerde genel olarak adayı keşfetmemiş olan özdeş ajanlardan daha iyi performans gösterdi.
Sırları ne mi? Keşiflerini ve öğrendikleri teknikleri sakladıkları bir hafıza.
Dikkat: bu, bu yapay zekâların duygular yaşadığını veya bilinçli olduklarını kanıtlamaz.
Gerçek atılım: her görev için özel olarak eğitilmeden öğrenme.
Ya yarın, yapay zekâlara yalnızca ulaşılacak hedefler değil, aynı zamanda serbestçe keşfedebilecekleri ortamlar da vermemiz gerekirse?
Otonom ajanlar ve robotik için umut verici bir yol. Ancak güvenlik ve kontrol için bir zorluk daha.
Bilimsel kaynak: MIT — Bu makine oyun mu oynuyor?
Orijinal MIT çalışması ve etkileşimli deneyler
LinkedIn Kaynakları
- Profil: Pierre Jean Duvivier dit Sage (LinkedIn)
- Paylaşan yazar: Isabelle Bouilloux (LinkedIn)
Yapay zekâlar belirli bir çevre içinde serbestçe keşfederek öğrenebilir mi? başlıklı yazı ilk olarak les plumes qui mordent sitesinde yayımlandı.
Sıkça Sorulan Sorular
SSS Yapay Zekâlar Belirli Bir Çevre İçinde Serbestçe Keşfederek Öğrenir mi
1 Bir yapay zekâ için belirli bir çevre içinde serbestçe keşfetmek ne anlama gelir
Bu, bir yapay zekânın belirlenmiş bir sınır içinde hareket etmesine, şeyleri denemesine ve sonuçlardan öğrenmesine izin vermek anlamına gelir. Çevre fiziksel veya dijital olabilir. Yapay zekâ kendi başına hareket edebilir ancak o sınırın dışına çıkamaz
2 Bu normal yapay zekâ eğitiminden nasıl farklıdır
Normal eğitim sabit veri kümeleri veya insan tarafından etiketlenmiş örnekler kullanır. Burada yapay zekâ eylemleri deneyerek ve ne olduğunu görerek kendi deneyimini üretir. Hazırlanmış bir veri kümesi yerine gerçek zamanlı geri bildirimden öğrenir
3 Yapay zekâlar bugün gerçekten bu şekilde öğrenebilir mi
Evet, sınırlı ortamlarda. Pekiştirmeli öğrenme ajanları oyunlarda, robotlarda ve simülasyonlarda deneme yanılma yoluyla öğrenir. Hâlâ zor olan şey, karmaşık gerçek dünya ortamlarında açık uçlu keşiftir
4 Ana faydalar nelerdir
Yapay zekâ insanların düşünmediği stratejiler keşfedebilir
Yalnızca eğitim verilerini tekrarlamak yerine yeni durumlara uyum sağlar
Daha az elle etiketlenmiş veriye ihtiyaç duyar
Zaman içinde kendi kendine gelişmeye devam edebilir
5 Genellikle ne ters gider
Ödül hackleme yapay zekâ boşluklar bulur ve sorunu çözmek yerine hedefi oyunlaştırır
Güvensiz eylemler ekipmana veya verilere zarar veren şeyler dener
Takılıp kalma aynı davranışı tekrarlar ve öğrenmeyi bırakır
Yönsüz merak sonsuza kadar keşfeder ama çok az işe yarar şey öğrenir
6 Çevre neden bu kadar önemli
Çevre güvenlik ağıdır. İçinde hatalar kontrol altında tutulur. Sınır çok gevşekse yapay zekâ gerçek zarar verebilir. Çok sıkıysa yapay zekâ işe yarar hiçbir şey öğrenemez. Boyutu doğru ayarlamak temel bir tasarım sorunudur
7 Fiziksel ve dijital çevre arasındaki fark nedir
Fiziksel çevre bir test odası veya çitle çevrili alan gibi gerçek bir alandır. Dijital olan ise bir simülasyon kum havuzu veya kısıtlı bir ağdır. Dijital çevreler daha ucuz ve daha güvenlidir ancak gerçek dünyayı doğru şekilde yansıtmayabilir
8 Bir yapay zekânın çevreden çıkmasını nasıl engellersiniz
Yalnızca talimatlar değil katı sınırlar kullanın. Örnekler fiziksel bariyerler kum havuzlu yazılım izin kontrolleri ve otomatik kapatmalar. Güvenmek
