OpenAI: Revizyonlar arasındaki fark
| [kontrol edilmiş revizyon] | [kontrol edilmiş revizyon] |
İçerik silindi İçerik eklendi
Değişiklik özeti yok |
|||
56. satır:
}}
'''OpenAI''', kâr amacı gütmeyen [[yapay zeka]] araştırma şirketi.
== Tarihçe ==
Ekim 2015'te, Musk, Altman ve diğer yatırımcılar 1 milyarın doların üzerinde bir yatırım yaparak organizasyonu baştmışlardır. [4]
27 Nisan 2016'da, OpenAI, [[pekiştirmeli öğrenme]] araştırma platformu olan “OpenAI Gym” adlı herkese açık bir beta sürümünü yayınladı. [8]
5 Aralık 2016'da OpenAI, bir yapay zeka'nın dünyadaki oyun, web sitesi ve diğer uygulamalar üzerindeki genel zekasını ölçmek ve eğitmek için kullanılan bir yazılım platformu olan Universe'yi piyasaya sürdü. [9] [10] [11] [12] 21 Şubat 2018’de, Musk, otonom otomobiller için Tesla yapay zeka geliştirmesinde bulunmasından dolayı “gelecekteki olası bir anlaşamamazlık çıkmasını” öne sürerek yönetim kurulundak istifa etti, ancak bağışçılığını devam ettirdi. [13]
2018 itibariyle, OpenAI, [[San Francisco Mission Bölgesi]]'nde, Musk'un diğer bir ortak şirketi olan [[Neuralink]] ile bir ofis binasını paylaşmaktadır. [14]
===Katılımcılar===
*Başkan: Sam Altman, [[Y Combinator]] şirketi başkanı <ref>{{cite news|last1=Kraft|first1=Amy|title=Elon Musk invests in $1B effort to thwart the dangers of AI|url=http://www.cbsnews.com/news/elon-musk-invests-in-non-profit-to-thwart-the-dangers-of-ai/|accessdate=19 December 2015|date=14 December 2015|publisher=[[CBS News]]}}</ref>
*[[Ilya Sutskever]], Araştırma direktörü, eski bir Google makine öğrenimi uzmanı<ref name="seattle-investors"/>
*Greg Brockman, Stripe'ın eski CTO'su<ref name="seattle-investors"/>
Projenin diğer destekçileri şunlardır:<ref name="seattle-investors"/>
*[[Reid Hoffman]], [[LinkedIn]] ortak kurucusu<ref name=mercury-back>{{cite news|last1=Liedtke|first1=Michael|title=Elon Musk, Peter Thiel, Reid Hoffman, others back $1 billion OpenAI research center|url=http://www.mercurynews.com/business/ci_29256196/elon-musk-peter-thiel-reid-hoffman-others-back|accessdate=19 December 2015|work=[[San Jose Mercury News]]}}</ref>
*[[Peter Thiel]], [[PayPal]] ortak kurucusu<ref name=mercury-back/>
*[[Jessica Livingston]], Y Combinator'un kurucu partneri
Şirketler:
*[[Amazon Web Services]], [[Amazon.Com]]'un cloud-servisi yan kuruluşu
*[[Infosys]], bir IT danışmanlık firması
Grup, Ocak 2016 başında dokuz araştırmacı ile başladı. [[Wired (dergi)|Wired]]'a göre Brockman, derin öğrenme hareketinin “kurucu babalarından” biri olan [[Yoshua Bengio]] ile bir araya geldi ve “alandaki en iyi araştırmacıların” bir listesini çıkardı. Microsofttan Peter Lee, en iyi yapay zeka araştırmacılarının maliyetinin en iyi NFL oyun kurucu beklentisinin maliyetini aştığını belirtti. OpenAI şirket düzeyinde (kar amacı gütmeyen seviyesinden ziyade) maaş öderken, şu anda yapay zeka araştırmacılarına Facebook veya Google ile karşılaştırılabilir maaşlar ödememektedir. Bununla birlikte, Sutskever Google’ı bırakıp OpenAI’ya geçmesini, “çok gçlü bir insan grubu ve büyük bir misyonu olması" şeklinde açıklamıştır. Brockman, "yapmayı hayal edebileceğim en iyi şey, insanlığa gerçek yapay zeka'yı güvenli bir şekilde yaratmak" açıklamasında bulunmuştır. OpenAI araştırmacısı [[Wojciech Zaremba]], OpenAI'ya katılmak için pazar değerinin iki ila üç katı teklif edilen "borderline crazy" tekliflerini reddettiğini belirtti. <ref name=wired_inside />
== Motivleri ==
[[Stephen Hawking]] ve Stuart Russell gibi bazı bilim insanları, gelişmiş yapay zeka'nın bir gün kendini sürekli artan bir oranda yeniden tasarlama yeteneğini kazanması durumunda, durdurulamaz bir "zeka patlaması"nın insanın neslinin tükenmesine yol açabileceğini düşünmüşlerdir. Musk, yapay zeka'yı insanlığın "en büyük varoluşsal tehdidi" olarak nitelendirmiştir. <ref>{{Citation|last=Anthony Patch|title=Elon Musk Artificial Intelligence could be our biggest existential threat 720p|date=2018-03-10|url=https://www.youtube.com/watch?v=RjcifdMg6s4|access-date=2018-10-31}}</ref> OpenAI'nin kurucuları onu kar amacı gütmeden yapılandırmıştır, böylece araştırmalarını uzun vadeli olumlu bir insan etkisi yaratmaya odaklamışlardır. <ref name=bbc-giants>{{cite news|title=Tech giants pledge $1bn for 'altruistic AI' venture, OpenAI|url=https://www.bbc.com/news/technology-35082344|accessdate=19 December 2015|publisher=[[BBC News]]|date=12 December 2015}}</ref>
OpenAI, insani seviyedeki yapay zeka'nın topluma ne kadar fayda sağlayabileceğini anlamanın zor olduğunu ve yanlış inşa edildiğinde veya yanlış kullanıldığında topluma ne kadar zarar verebileceğini anlamanın aynı derecede zor olduğunu belirtmektedir. <ref name=bbc-giants/> Güvenlik araştırması'nın ertelenmesi güvenli değildir: “yapay zeka'nın şaşırtıcı geçmişi nedeniyle, insani seviyedeki yapay zeka'nın ne zaman ulaşabileceğini tahmin etmek zor. ”<ref>{{cite news|last1=Mendoza|first1=Jessica|title=Tech leaders launch nonprofit to save the world from killer robots|url=http://www.csmonitor.com/Science/2015/1214/Tech-leaders-launch-nonprofit-to-save-the-world-from-killer-robots|work=[[The Christian Science Monitor]]}}</ref> OpenAI, yapay zeka'nın “bireysel insanın isteklerinin bir uzantısı olması ve özgürlük ruhu içinde mümkün olduğunca geniş ve eşit bir şekilde dağıtılması gerektiğini belirtmektedir”, <ref name=bbc-giants/> ve potansiyel olarak muazzam yapay zeka özellikli ürün sınıfına atıfta bulunularak:"Gerçekten toplumumuzun sadece bir kaç kişi tarafından bilinen otonom yapay zekalar tarafından kontrol edilmesine istekli miyiz? Elbette değil.” <ref>{{cite web |url=http://www.mdpi.com/2076-0752/7/2/15|author=Glenn W. Smith|date=10 April 2018|title=Re: Sex-Bots—Let Us Look before We Leap|publisher=Arts|doi=10.3390/arts7020015|accessdate=30 June 2018}}</ref> Eşbaşkan Sam Altman, on yıllardır sürecek olan projenin insan zekasını geçmesini beklemektedir. <ref name=wired_far_more>{{cite news|last1=Metz|first1=Cade|title=Elon Musk’s Billion-Dollar AI Plan Is About Far More Than Saving the World|url=https://www.wired.com/2015/12/elon-musks-billion-dollar-ai-plan-is-about-far-more-than-saving-the-world/|accessdate=19 December 2015|work=[[Wired (magazine)|Wired]]|date=15 December 2015|quote=“Altman said they expect this decades-long project to surpass human intelligence.”}}</ref>
Infosys'in eski CEO'su Vishal Sikka, “insanlığın genel yararına daha fazla sonuç elde etmek için” çaba gösterileceği bu kuruluşa destek olduğunu ve OpenAI'nin uzun zamandır elde ettikleri değerlerle çok iyi uyum sağladığını belirtmiştir. <ref>{{cite web|author1=[[Vishal Sikka]]|title=OpenAI: AI for All|url=http://www.infosysblogs.com/infytalk/2015/12/openai_ai_for_all.html|website=InfyTalk|publisher=[[Infosys]]|accessdate=22 December 2015|date=14 December 2015|deadurl=yes|archiveurl=https://web.archive.org/web/20151222094518/http://www.infosysblogs.com/infytalk/2015/12/openai_ai_for_all.html|archivedate=22 December 2015|df=}}</ref> Wired'dan Cade Metz, Amazon gibi şirketlerin, çok sayıda özel veri kaynağına sahip olan Google ve Facebook gibi şirketlere karşı alanını düzleştirmek için açık kaynaklı yazılım ve verileri kullanma isteği ile motive olabileceğini öne sürmektedir. Altman, Y Combinator şirketlerinin verilerini OpenAI ile paylaşacağını belirtti. <ref name=wired_far_more/>
== Strateji ==
Musk şu soruyu sormuştur: “Geleceğin iyi olmasını sağlamak için yapabileceğimiz en iyi şey nedir? Aralarında oturabiliriz ya da düzenleyici gözetimi teşvik edebiliriz ya da yapay zeka'yı güvenli ve insanlığa yararlı bir şekilde geliştirmeye derinden önem veren insanlarla doğru yapıya katılabiliriz. Musk, “Aslında (dost) yapay zeka'yı ilerletmeye çalışırken her zaman bir riskin olduğunu” kabul etmiştir; Bununla birlikte, en iyi savunma “yapay zeka'ya sahip olabilecek birçok insanı güçlendirmektir. Herkesin yapay zeka gücü varsa, o zaman yapay zeka süper gücüne sahip olabilecek tek bir kişi veya küçük bir birey olmayacaktır.“<ref name="seattle-investors">{{cite news|title=Silicon Valley investors to bankroll artificial-intelligence center|url=http://www.seattletimes.com/business/technology/silicon-valley-investors-to-bankroll-artificial-intelligence-center/|accessdate=19 December 2015|work=[[The Seattle Times]]|date=13 December 2015}}</ref>
Musk ve Altman'ın yapay zeka'nın genel zarara neden olma riskini azaltmaya çalışmasının karşı sezgisel stratejisi, herkese yapay zeka verme fikri, yapay zekanın varoluşsal riskinden endişe duyanlar arasında tartışmalıdır. Filozof [[Nick Bostrom]] Musk'un yaklaşımına kuşkuyla bakmaktadır: “Dünyaya kötü şeyler yapabilen bir düğmeniz varsa, bunu herkese vermek istemezsiniz.” <ref name=wired_inside>{{cite news|author1=Cade Metz|title=Inside OpenAI, Elon Musk’s Wild Plan to Set Artificial Intelligence Free|url=https://www.wired.com/2016/04/openai-elon-musk-sam-altman-plan-to-set-artificial-intelligence-free/|accessdate=28 April 2016|work=[[Wired magazine]]|date=27 April 2016|language=en-US}}</ref> Teknolojik tekillikle ilgili bir 2016 sohbeti sırasında Altman, “tüm kaynak kodumuzu yayınlamayı planlamıyoruz” dedi. Greg Brockman, “Şu anda hedefimiz yapılacak en iyi şeyi yapmaktır. Bu biraz belirsiz.“ açıklamasında bulunmuştur.<ref>{{cite news|title=Sam Altman’s Manifest Destiny|url=http://www.newyorker.com/magazine/2016/10/10/sam-altmans-manifest-destiny|accessdate=4 October 2016|work=The New Yorker|issue=10 October 2016}}</ref>
== Ürünler ==
=== Gym ===
Gym, [[pekiştirmeli öğrenme]] araştırmalarında kullanılan [[ImageNet Büyük Ölçekli Görsel Tanıma Mücadelesi]]'ne benzeyen, ancak bunlardan daha geniş olan ve çok çeşitli farklı ortamlara sahip, kurulumu kolay bir genel zeka testi sunmayı amaçlamaktadır. Yapay zeka araştırma yayınlarında hangi ortamların tanımlandığını belirtir, böylece yayınlanan araştırmanın daha kolay bir şekilde yeniden üretilebilmesini kolaylaştırır. <ref name=":0">{{cite news|author1=Dave Gershgorn|title=Elon Musk's Artificial Intelligence Group Opens A 'Gym' To Train A.I.|url=http://www.popsci.com/elon-musks-artificial-intelligence-group-opens-gym-to-train-ai|accessdate=29 April 2016|work=Popular Science|date=27 April 2016}}</ref><ref>{{cite web|author1=Greg Brockman|author2=John Schulman|title=OpenAI Gym Beta|url=https://openai.com/blog/openai-gym-beta/|website=OpenAI Blog|publisher=OpenAI|accessdate=29 April 2016|language=en-us|date=27 April 2016}}</ref> Proje kullanıcıya basit bir arayüz sağladığını iddia etmektedir. Haziran 2017'den itibaren, Gym yalnızca [[Python (programlama dili)|Python]] ile birlikte kullanılabilir. <ref>{{cite web|title=OpenAI Gym|url=https://gym.openai.com/|website=GitHub|accessdate=8 May 2017}}</ref> Eylül 2017 itibariyle, Gym dokümantasyon sitesi sürdürülmedi ve aktif çalışma yerine [[GitHub]] sayfasına odaklandı. <ref>{{Cite web|url=https://twitter.com/gdb/status/907855318591438848|title=Yep, the Github repo has been the focus of the project for the past year. The Gym site looks cool but hasn't been maintained.|last=Brockman|first=Greg|date= 12 Sep 2017|website=@gdb|language=en|access-date=2017-11-07}}</ref>
=== RoboSumo ===
“RoboSumo” da, sanal insansı “metaöğrenme” robotlar başlangıçta nasıl yürüyecekleri konusunda bilgisizdir ve hareket etmeyi öğrenme ve rakip ajanın halka dışına itme hedefleri verilmiştir. Bu öğrenme sürecinde, ajanlar değişen koşullara nasıl adapte edileceğini öğrenir; bir ajan daha sonra bu sanal ortamdan çıkarıldığında ve şiddetli rüzgarlarla yeni bir sanal ortama yerleştirildiğinde, aracı genel olarak nasıl dengeleyeceğini öğrendiğini öne sürerek dik durur. <ref>{{cite news|title=AI Sumo Wrestlers Could Make Future Robots More Nimble|url=https://www.wired.com/story/ai-sumo-wrestlers-could-make-future-robots-more-nimble/|accessdate=2 November 2017|work=Wired|date=11 October 2017}}</ref><ref>{{cite news|title=OpenAI’s Goofy Sumo-Wrestling Bots Are Smarter Than They Look|url=https://www.technologyreview.com/the-download/609117/openais-goofy-sumo-wrestling-bots-are-smarter-than-they-look/|accessdate=2 November 2017|work=MIT Technology Review|language=en}}</ref> OpenAI’den Igor Mordatch, ajanlar arasındaki rekabetin, bir ajanın rekabet bağlamı dışında bile çalışabilme yeteneğini artırabilecek bir zekasal “silahlanma yarışı” yaratabileceğini düşünmektedir.
=== Tartışma Oyunu ===
2018'de OpenAI, bir insan hakimin önünde oyuncak problemlerini tartışmak için makineler öğreten Tartışma Oyununu başlattı. Amaç, böyle bir yaklaşımın yapay zeka kararlarını denetlemeye ve açıklanabilir yapay zeka geliştirmeye yardımcı olup olmadığını araştırmaktır. <ref>{{Cite news|url=https://thenextweb.com/artificial-intelligence/2018/05/04/openais-debate-game-teaches-you-and-your-friends-how-to-lie-like-robots/|title=OpenAI's Debate Game teaches you and your friends how to lie like robots|last=Greene|first=Tristan|date=2018-05-04|work=The Next Web|access-date=2018-05-31|language=en-US}}</ref><ref>{{cite news |title=Why Scientists Think AI Systems Should Debate Each Other |url=https://www.fastcompany.com/40569116/why-scientists-think-ai-systems-should-debate-each-other |accessdate=2 June 2018 |work=Fast Company |date=8 May 2018}}</ref>
=== OpenAI Five ===
OpenAI Five, Dota 2 video oyununda kullanılan beşli bot takımıdır ve bu botlar insan oyuncularına karşı tamamen yetenekli bir şekilde deneme yanılma algoritmalarıyla oynamayı öğrenir. Beşli bir ekip haline gelmeden önce, ilk halka açık gösteri, International 2017'de oyuna profesyonel bir Ukraynalı oyuncu olan Dendi'nin canlı yayında 1'e 1 maçında bir bota kaybetmiştir. <ref>{{cite web |last1=Savov |first1=Vlad |title=My favorite game has been invaded by killer AI bots and Elon Musk hype |url=https://www.theverge.com/2017/8/14/16141938/dota-2-openai-bots-elon-musk-artificial-intelligence |website=The Verge |accessdate=June 25, 2018}}</ref><ref>{{cite web|last1=Frank|first1=Blair Hanley|title=OpenAI’s bot beats top Dota 2 player so badly that he quits|url=https://venturebeat.com/2017/08/11/openais-bot-beats-top-dota-2-player-so-badly-that-he-quits/|website=Venture Beat|accessdate=August 12, 2017|deadurl=no|archiveurl=https://web.archive.org/web/20170812065202/https://venturebeat.com/2017/08/11/openais-bot-beats-top-dota-2-player-so-badly-that-he-quits/|archivedate=August 12, 2017}}</ref> Maçtan sonra CTO Greg Brockman, botun iki hafta boyunca gerçek zamanlı olarak kendisine karşı oynayarak öğrendiğini ve öğrenme yazılımının karmaşık görevleri yerine getirebilecek yazılım oluşturma yönünde bir adım olduğunu açıkladı. <ref>{{cite web|title=Dota 2|url=https://blog.openai.com/dota-2/|website=blog.openai.com|accessdate=12 August 2017}}</ref><ref>{{cite web|title=More on Dota 2|url=https://blog.openai.com/more-on-dota-2/|website=blog.openai.com|accessdate=16 August 2017}}</ref> Botlar aylar boyunca günde yüzlerce kez kendilerine karşı oynayarak zaman içinde öğrendikleri ve düşmanı öldürmek ve kuleleri yıkmak gibi eylemler için ödüllendirildiği için sistem ile bir pekiştirmeli öğrenme şekli kullanmaktadır. <ref>{{cite web |last1=Simonite |first1=Tom |title=Can Bots Outwit Humans in One of the Biggest Esports Games? |url=https://www.wired.com/story/can-bots-outwit-humans-in-one-of-the-biggest-esports-games/ |website=Wired |accessdate=June 25, 2018}}</ref><ref>{{cite web |last1=Kahn |first1=Jeremy |title=A Bot Backed by Elon Musk Has Made an AI Breakthrough in Video Game World |url=https://www.bloomberg.com/news/articles/2018-06-25/musk-backed-bot-conquers-e-gamer-teams-in-ai-breakthrough |website=Bloomberg |accessdate=June 27, 2018}}</ref><ref>{{cite web |last1=Clifford |first1=Catherine |title=Bill Gates says gamer bots from Elon Musk-backed nonprofit are 'huge milestone' in A.I. |url=https://www.cnbc.com/2018/06/27/bill-gates-openai-robots-beating-humans-at-dota-2-is-ai-milestone.html |website=CNBC |accessdate=June 29, 2018}}</ref> Haziran 2018’e kadar, botların yetenekleri beş kişilik bir ekip olarak birlikte oynanabildi ve amatör ve yarı profesyonel oyunculardan oluşan ekipleri yenebildi. <ref>{{cite web |title=OpenAI Five Benchmark |url=https://blog.openai.com/openai-five-benchmark/ |website=blog.openai.com |accessdate=25 August 2018}}</ref><ref>{{cite web |last1=Simonite |first1=Tom |title=Can Bots Outwit Humans in One of the Biggest Esports Games? |url=https://www.wired.com/story/can-bots-outwit-humans-in-one-of-the-biggest-esports-games/ |website=Wired |accessdate=25 June 2018}}</ref><ref>{{cite web |last1=Vincent |first1=James |title=AI bots trained for 180 years a day to beat humans at Dota 2 |url=https://www.theverge.com/2018/6/25/17492918/openai-dota-2-bot-ai-five-5v5-matches |website=The Verge |accessdate=25 June 2018}}</ref><ref>{{cite web |last1=Savov |first1=Vlad |title=The OpenAI Dota 2 bots just defeated a team of former pros |url=https://www.theverge.com/2018/8/6/17655086/dota2-openai-bots-professional-gaming-ai |website=The Verge |accessdate=August 7, 2018}}</ref> Uluslararası 2018’de OpenAI Five, profesyonel oyunculara karşı iki maçta oynadı. <ref>{{cite web |last1=Simonite |first1=Tom |title=Pro Gamers Fend off Elon Musk-Backed AI Bots—for Now |url=https://www.wired.com/story/pro-gamers-fend-off-elon-musks-ai-bots/ |website=Wired |accessdate=25 August 2018}}</ref><ref>{{cite web |last1=Quach |first1=Katyanna |title=Game over, machines: Humans defeat OpenAI bots once again at video games Olympics |url=https://www.theregister.co.uk/2018/08/24/openai_bots_eliminated_dota_2/ |website=The Register |accessdate=25 August 2018}}</ref> Botlar her iki oyunu da kaybetmelerine rağmen, OpenAI, Dota 2'deki en iyi oyuncuların bazılarına karşı oynadıklarının gelecekteki oyunlar için algoritmalarını analiz etmelerini ve ayarlamalarını sağladığını belirterek başarılı bir girişim olduğunu belirtti. <ref>{{cite web |title=The International 2018: Results |url=https://blog.openai.com/the-international-2018-results/ |website=blog.openai.com |accessdate=25 August 2018}}</ref>
=== Dactyl ===
Dactyl, OpenAI Five'ın kullandığı [[pekiştirmeli öğrenme]] algoritması kodunu kullanarak, bir robot Gölge El'i sıfırdan eğitmek için makine öğrenmesini kullanır. Robot eli tamamen fiziksel olarak yanlış simülasyonda eğitilmiştir. <ref>{{cite web |title=Learning Dexterity |url=https://blog.openai.com/learning-dexterity/ |website=Openai.com |publisher=OpenAI |accessdate=27 August 2018}}</ref><ref>{{cite news |last1=Ryan |first1=Mae |title=How Robot Hands Are Evolving to Do What Ours Can |url=https://www.nytimes.com/interactive/2018/07/30/technology/robot-hands.html |accessdate=1 September 2018 |date=2018 |language=en}}</ref>
=== GPT2 ===
GPT2, konu ve ton cinsinden girişi ile eşleşen metin üreten bir yapay zeka sistemidir. Örneğin, George Orwell'in romanı 1984'ün ilk cümlesini aldığında, Çin'de ortaya konan bir fütüristik kurgu üretebilir. Önceki OpenAI ürünlerinden farklı olarak, GPT2, [[Sahte haber|sahte haberler]] yazma uygulamaları da dahil olmak üzere olası kötüye kullanım kaygılarından dolayı toplulukla paylaşılmamıştır. <ref>{{Cite paper|last = Hern|first = Alex| title = New AI fake text generator may be too dangerous to release, say creators| newspaper = The Guardian| date = 14 February 2019|url = https://www.theguardian.com/technology/2019/feb/14/elon-musk-backed-ai-writes-convincing-news-fiction| access-date = 14 February 2019}}</ref>
==Kaynakça==
| |||