OpenAI — це лабораторія досліджень штучного інтелекту, що складається з комерційної корпорації OpenAI LP та її материнської компанії, неприбуткової OpenAI Inc.
OpenAI | |
Галузь промисловості | ШІ |
---|---|
Дата створення / заснування | 8 грудня 2015 |
Офіційна назва | англ. OpenAI Inc. |
Сфера роботи | ШІ, машинне навчання і пошукова система |
Названо на честь | opend і ШІ |
Засновник | Ілон Маск, Сем Альтман, Ілля Суцкевер, Грег Брокман, Войцех Заремба і Андрей Карпати |
Країна | США |
Організаційно-правова форма | Delaware corporationd |
Дочірня організація | OpenAI, L.P.d |
Розташування штаб-квартири | Сан-Франциско |
Кількість працівників | 375 осіб (23 січня 2023) |
Багтрекер | bugcrowd.com/openai(англ.) |
Офіційний блог | openai.com/blog/(англ.) |
URL каналу | openai.com/feed.xml(англ.) |
Кількість підписників у соціальних мережах | 1 465 160 і 594 000 ± 999 |
Similarweb ranking | 16 |
Service status information URL | status.openai.com(англ.) |
Офіційний форум | community.openai.com(англ.) |
Офіційний сайт(англ.) | |
OpenAI у Вікісховищі |
Цю організацію було засновано в Сан-Франциско наприкінці 2015 року Ілоном Маском, Семом Альтманом та іншими, що поручилися спільно вкласти 1 мільярд доларів США. Маск подав у відставку з правління в лютому 2018 року, але залишився донором. 2019 року OpenAI LP отримала 1 мільярд доларів США інвестицій від Microsoft.
Також, вона важається лідером й конкурентом DeepMind, проводить дослідження в галузі штучного інтелекту (ШІ) із заявленою метою просування та розробки дружнього сильного ШІ у такий спосіб, щоби він приносив користь людству в цілому.
В березні 2023 року деякі дослідники описали своє дослідження нецензурованої версії ChatGPT на базі GPT-4, що доступна тільки для розробників в OpenAI, ранньою та неповною версією сильного штучного інтелекту (AGI). В середині квітня 2023 року Сем Альтман заявив, що компанія поки припинила тренування GPT-5, у відповідь на лист з відповідним проханням від 50 тисяч людей, зокрема більше 1800 CEO та 1500 професорів, та, зокрема, Ілон Маск, Стів Возняк, Юваль Гарарі та багато інших людей.
Історія Редагувати
У жовтні 2015 Ілон Маск, Сем Альтман та інші інвестори оголосили про створення OpenAI та пообіцяли вкласти до цього підприємства понад 1 мільярд доларів США. Ця організація заявила, що вони «вільно співпрацюватимуть» з іншими установами та дослідниками, роблячи свої патенти та дослідження відкритими для громадськості.
27 квітня 2016 випустила публічну бету OpenAI Gym, їхньої платформи для досліджень навчання з підкріпленням.
5 грудня 2016 випустила Universe, програмну платформу для вимірювання та тренування сильного інтелекту ШІ над світовим запасом ігор, вебсайтів та інших застосувань.
21 лютого 2018 Маск подав у відставку зі своєї посади в правлінні, пославшись на «потенційний майбутній конфлікт (інтересів)» з розробкою ШІ Тесла для самокерованих автівок[en], але залишився донором.
Станом на 2020 осідок перебуває у районі Мішн Сан-Франциско[en], й ділить колишню будівлю Pioneer Trunk Factory[en] з Neuralink, іншою компанією, співзасновником якої є Маск.
Після переходу OpenAI від некомерційності до комерційності, компанія розподілила акції серед своїх працівників, та уклала партнерство з корпорацією Microsoft, яка оголосила про інвестиційний пакет в цю компанію в розмірі 1 мільярда доларів США. OpenAI відтак оголосила про свій намір комерційно ліцензувати свої технології, з Microsoft у ролі свого привілейованого партнера.
В червні 2020 року OpenAI анонсувала GPT-3, мовну модель, натреновану на трильйонах слів з Інтернету. Вона також анонсувала, що пов'язаний ППІ, названий просто «the API», стане серцем її першого комерційного продукту. GPT-3 призначено для відповідання на питання природною мовою, але вона також може перекладати між мовами, та зв'язно породжувати імпровізований текст.
Учасники Редагувати
- Генеральний директор: Сем Альтман, колишній президент акселератора стартапів Y Combinator
- Ілля Суцкевер, директор з досліджень, колишній експерт Google з машинного навчання
- Технічний директор: Грег Брокман, колишній технічний директор Stripe
До інших підтримувачів цього проєкту належать:
- Рід Хоффман, співзасновник LinkedIn
- Пітер Тіль, співзасновник PayPal
- Джессіка Лівінгстон[en], партнерка-засновниця Y Combinator
Компанії:
Ця група почала свою роботу на початку 2016 року з дев'яти дослідників. Згідно з Wired, Брокман зустрівся з Йошуа Бенжіо[en], одним із «батьків-засновників» руху глибокого навчання, та склав перелік «найкращих дослідників у галузі». Пітер Лі[en] з Microsoft зазначив, що вартість топового дослідника ШІ перевищує вартість топового перспективного захисника НФЛ. В той час як OpenAI платить зарплатні корпоративного (а не неприбуткового) рівня, вона наразі не платить дослідникам ШІ зарплатні, порівнянні з зарплатнею в Facebook чи Google. Тим не менше, Суцкевер зазначив, що він був готовий залишити Google заради OpenAI «частково через дуже сильну групу людей, і, дуже значною мірою, через її місію». Брокман зазначив, що «найкращою річчю, яку я міг би уявити, що я робитиму, було наближення людства до справжнього ШІ безпечним способом». Дослідник OpenAI Войцех Заремба зазначив, що він відхилив «гранично шалені» пропозиції, вдвічі чи втричі більші за його ринкову вартість, щоби приєднатися натомість до OpenAI.
Мотиви Редагувати
Деякі науковці, такі як Стівен Гокінг та Стюарт Расселл[en], висловлювали занепокоєння, що якщо вдосконалений ШІ колись отримає здатність перебудовувати себе в темпі, що постійно зростає, то нестримний «вибух інтелекту» може призвести до зникнення людства. Маск характеризує ШІ як «найбільшу екзистенційну загрозу» для людства Засновники OpenAI структурували її як неприбуткову, щоби могти зосередити свої дослідження та створенні позитивного довготривалого впливу на людей..
Маск та Альтман заявили, що їх частково мотивує занепокоєння екзистенційним ризиком від сильного штучного інтелекту[en]. OpenAI заявляє, що «важко оцінити, наскільки велику користь може принести суспільству ШІ людського рівня», і що не менш важко збагнути, «наскільки великої шкоди він може завдати суспільству, якщо його побудувати або використовувати неправильно». Дослідження безпечності неможливо безпечно відкласти, «оскільки через несподіваність історії ШІ неможливо передбачити, коли ШІ людського рівня може опинитися в межах досяжності». OpenAI заявляє, що ШІ «повинен бути продовженням особистої людської волі та, в ім'я духу свободи, бути поширеним настільки широко й рівномірно, наскільки це можливо…» і це ставлення було виражено й в іншому місці, стосовно потенційно величезного класу продуктів з ШІ: «Чи справді ми готові дозволити нашому суспільству стати просоченим автономними програмними та апаратними агентами, деталі роботи яких є відомими лише деяким обраним? Звісно, ні.». Співголова Сем Альтман очікує, що на проєкт з перевершення людського інтелекту підуть десятиліття.
Вішал Сікка[en], колишній генеральний директор Infosys, заявив, що «відкритість», коли ці зусилля будуть «давати результати загалом в інтересах людства», була основоположною вимогою для підтримки з його боку, і що OpenAI «дуже добре узгоджується з нашими усталеними цінностями» та їхнім «намаганням робити цілеспрямовану роботу». Кейд Мец з Wired припускає, що такі корпорації як Amazon можуть бути вмотивованими бажанням використовувати відкрите програмне забезпечення та дані, щоби вирівнювати умови боротьби з такими корпораціями як Google та Facebook, що володіють величезними запасами власних даних. Альтман заявляє, що компанії Y Combinator ділитимуться своїми даними з OpenAI.
2019 року OpenAI стала комерційною компанією, названою OpenAI LP, щоби забезпечити додаткове фінансування, залишаючись під контролем неприбуткової компанії, званої OpenAI Inc, у структурі, яку OpenAI називає «capped-profit», до того бувши неприбутковою організацією 501(c)(3)[en].
Стратегія Редагувати
Маск поставив питання: «що є найкращим, що ми можемо зробити, щоби забезпечити, щоби майбутнє було добрим? Ми могли би сидіти осторонь, або ми можемо заохочувати регуляторний нагляд, або ми могли би брати участь у правильній структурі з людьми, які глибоко піклуються розвитком ШІ у спосіб, що є безпечним та корисним для людства.» Маск визнав, що «завжди існує деякий ризик того, що насправді намагаючись вдосконалити (дружній) ШІ, ми можемо створити річ, яка нас турбує»; менше з тим, найкращим захистом є «наділити якомога більше людей можливістю мати ШІ. Якщо кожен володіє силами ШІ, то не існує єдиної людини чи невеликої групи людей, які можуть мати суперсилу ШІ».
Контрінтуїтивна стратегія Маска та Альтмана намагатися знизити ризик нанесення штучним інтелектом загальної шкоди, надаючи його кожному, є спірною для стурбованих екзистенційним ризиком від штучного інтелекту[en]. Філософ Нік Бостром ставиться до підходу Маска скептично: «Якщо у вас є кнопка, яка може робити світові погані речі, ви не хочете давати її всім.» Протягом дискусії 2016 року про технологічну сингулярність Альтман сказав, що «ми не плануємо випускати весь наш сирцевий код», та сказав про план «дозволити широким прошаркам світу обирати представників до нової керівної ради». Грег Брокман заявив, що «Нашою метою просто зараз… є робити найкраще, що можливо робити. Це є трошки розмитим».
І навпаки, первинне рішення OpenAI притримати GPT-2 через бажання «перестрахуватися» за наявності потенційних зловживань було розкритиковано прихильниками відкритості. Деліп Рао, експерт із породжування тексту, заявив: «Я не думаю, що [OpenAI] витратили достатньо часу на доведення того, що [GPT-2] була справді небезпечною.» Інші критики стверджували, що відкрита публікація є необхідною для того, щоби відтворити це дослідження, та мати можливість вживати контрзаходів.
У 2017 податковому році OpenAI витратила 7,9 мільйона доларів США, або чверть своїх функціональних витрат, на самі лише хмарні обчислення Для порівняння, загальні витрати DeepMind 2017 року були набагато більшими, склавши 442 мільйони доларів США. Влітку 2018 року просто тренування ботів Dota 2 OpenAI вимагало оренди в Google 128 000 ЦП та 256 ГП протягом декількох тижнів. Згідно з OpenAI, модель «capped-profit», прийнята в березні 2019 року, дозволяє OpenAI LP законно залучати інвестиції від венчурних фондів, та, на додачу, надавати працівникам частки в компанії, з метою, щоби вони могли сказати «я збираюся Відкрити ШІ (англ. Open AI), але в довгостроковій перспективі це не буде невигідним для нас як для сім'ї». Багато провідних дослідників працюють у Google Brain, DeepMind та Facebook, Inc., які пропонують права на акції, що для неприбуткової компанії було би неможливим. У червні 2019 року OpenAI LP залучила мільярд доларів від Microsoft, суму, яку OpenAI планує витратити «протягом п'яти років, можливо, набагато швидше» Альтман заявив, що навіть мільярд доларів може виявитися недостатнім, і що в кінцевому підсумку лабораторії може знадобитися «більше капіталу, ніж будь-коли залучала будь-яка неприбуткова організація», щоби досягти СШІ.
Перехід від неприбуткової компанії до «capped-profit» скептично сприйняв Орен Етціоні[en] з неприбуткового Інституту Аллена з питань ШІ[en], погодившись, що засватати провідних дослідників до неприбуткової організації складно, але зауваживши «я не згоден з думкою, що неприбуткова організація не може конкурувати», й указавши на успішні низькобюджетні проєкти від OpenAI та інших. «Якби більші й краще фінансовані завжди були кращими, то IBM все ще були би номером один.» Після цього переходу публічне розкриття даних про винагороду провідних працівників OpenAI LP вже не є обов'язковим за законом. Неприбуткова OpenAI Inc. є єдиним контрольним акціонером[en] OpenAI LP. Незважаючи на те, що OpenAI LP є комерційною компанією, вона зберігає формальну фідуціарну відповідальність[en] за неприбутковий статут OpenAI's Inc. Більшості правління OpenAI Inc. заборонено мати фінансові долі в OpenAI LP. Крім того, міноритарні члени з долями в OpenAI LP не мають права голосу в деяких питаннях через конфлікт інтересів. Деякі дослідники стверджують, що перехід OpenAI LP до комерційного статусу є несумісним із претензіями OpenAI на те, що вони «демократизують» ШІ. Журналіст із Vice News[en] написав, що «загалом, ми ніколи не могли покладатися на венчурних капіталістів задля покращення людства».
Продукти та застосування Редагувати
Дослідження OpenAI, як правило, зосереджуються на навчанні з підкріпленням. OpenAI розглядають як важливого конкурента DeepMind.
Gym Редагувати
Gym (укр. тренажерний зал) має на меті забезпечити простий для налаштування еталонний тест сильного інтелекту з широким спектром різних середовищ — дещо схожий, але ширший за Широкомасштабне випробування з візуального розпізнавання ImageNet[en], яке використовують у дослідженнях керованого навчання — і на який покладають надію стандартизувати спосіб, у який визначають середовища для публікацій досліджень ШІ, щоби опубліковані результати стали легшими для відтворення. Проєкт претендує на те, що він надає користувачеві простий інтерфейс. Станом на червень 2017 року Gym було можливо використовувати лише з Python. Станом на вересень 2017 року сайт документації Gym не підтримувався, а активну працю було натомість зосереджено на його сторінці в GitHub.
RoboSumo Редагувати
В RoboSumo віртуальним гуманоїдним роботам «метанавчання» первинно бракує знання навіть про те, як ходити, і їм поставлено задачу навчитися рухатися, й виштовхнути агента—опонента за межі кола. Завдяки цьому змагальному процесу навчання ці агенти вчаться, як пристосовуватися до змінюваних умов. Коли агента потім забирають із цього віртуального середовища, й розміщують у новому віртуальному середовищі з сильними вітрами, агент упирається, щоби лишатися стоячим, що дає можливість припустити, що він навчився втримувати рівновагу в загальному сенсі. Ігор Мордач з OpenAI стверджує, що це змагання між агентами може створити інтелектуальні «перегони озброєнь», які можуть підвищити здатність агента функціювати, навіть поза контекстом цього змагання.
Debate Game Редагувати
2018 року OpenAI запустила Debate Game (англ. дебатну гру), яка вчить машини вести дебати про модельні задачі перед людським суддею. Метою є дослідити, чи може такий підхід допомогти в аудиті рішень ШІ та в розробці поясненного ШІ.
Dactyl Редагувати
Dactyl використовує машинне навчання, щоби тренувати роботизовану руку Shadow Hand[en] з нуля, використовуючи той самий алгоритм навчання з підкріпленням, що й OpenAI Five. Цю роботизовану руку тренують повністю в фізично неточній імітації.
Породжувальні моделі Редагувати
GPT Редагувати
Первинну працю про породжувальне попереднє тренування (англ. generative pre-training, GPT) моделі мови було написано Алеком Редфордом з колегами, й опубліковано в сигнальнім примірнику на вебсайті OpenAI 11 червня 2018 року. Вона показала, як породжувальна модель мови здатна здобувати знання про світ та оброблювати дальні залежності шляхом попереднього тренування на різноманітнім корпусі з протяжними відрізками дотичного тексту.
GPT-2 Редагувати
Породжувальний попередньо натренований трансформер 2 (англ. Generative Pre-trained Transformer 2), широко відомий за своєю скороченою назвою GPT-2, є некерованою трансформерною моделлю мови, та наступником GPT. GPT-2 було вперше анонсовано в лютому 2019 року, з лише обмеженими демонстративними версіями, первинно доступними публічно. Повну версію GPT-2 не було випущено негайно через занепокоєння потенційним зловживанням, включно із застосуванням для написання фейкових новин. Деякі експерти висловили скептицизм стосовно того, чи становив GPT-2 значну загрозу. Інститут Аллена з питань штучного інтелекту[en] відповів на GPT-2 інструментом для виявляння «нейронних фейкових новин». Інші дослідники, такі як Джеремі Говард, застерегли, що «ця технологія вщент заповнить Твіттер, електронну пошту та веб стерпною контекстно доречною прозою, яка заглушить всю решту мовлення, і яку буде неможливо відфільтровувати» В листопаді 2019 року OpenAI випустили повну версію моделі мови GPT-2 Декілька вебсайтів розміщують інтерактивні демонстрації різних примірників GPT-2 та інших трансформерних моделей.
Автори GPT-2 стверджують, що некеровані моделі мови є системами навчання загального призначення, ілюструючи це досяганням GPT-2 найвищого рівня точності та перплексивності на 7 з 8 нульпоглядових[en] задач (тобто, коли модель не зазнавала подальшого тренування на будь-яких специфічних для задачі зразках входів—виходів). Корпус, на якому її було натреновано, званий WebText, містить трохи більше 8 мільйонів документів загальним об'ємом 40 ГБ тексту з адрес, якими ділились у відправленнях Reddit із щонайменше 3 вподобайками. Вона уникає певних проблем кодування словника лексемами слів завдяки застосуванню діграмного кодування[en]. Це дозволяє представляти будь-який рядок символів кодуванням як окремих символів, так і кількасимвольних лексем.
GPT-3 Редагувати
Породжувальний попередньо натренований трансформер 3 (англ. Generative Pre-trained Transformer 3), широко відомий за своєю скороченою назвою GPT-3, є некерованою трансформерною моделлю мови, та наступником GPT-2. Його було вперше описано в травні 2020 року OpenAI заявляє, що повна версія GPT-3 містить 175 мільярдів параметрів, на два порядки більше, ніж 1,5 мільярди параметрів у повній версії GPT-2 (хоча було треновано моделі GPT-3 і з усього лише 125 мільйонами параметрів)..
OpenAI заявила, що GPT-3 успішно виконує деякі задачі «метанавчання». Вона може узагальнювати призначення єдиної пари входу—виходу. Ця праця дає приклад перекладу та міжмовного передавального навчання між англійською та румунською, та між англійською та німецькою.
GPT-3 різко покращила результати в еталонних тестах у порівнянні з GPT-2. OpenAI застерігає, що таке збільшення масштабу моделей мови може наближатися до фундаментальних обмежень здатностей передбачувальних мовних моделей, або стикатися з ними. Для попереднього тренування GPT-3 знадобилося декілька тисяч петафлоп/с-днів розрахунків, порівняно з десятками петафлоп/с-днів для повної моделі GPT-2. Як і в його попередника повністю натреновану модель GPT-3 не було негайно оприлюднено на підставі можливих зловживань, хоча OpenAI планувала дозволити доступ через платний хмарний ППІ після двомісячного безкоштовного приватного бета-тестування, що почалося в червні 2020 року.
23 вересня 2020 року ліцензію на GPT-3 було ексклюзивно надано компанії Microsoft.
ChatGPT Редагувати
ChatGPT розроблений на основі моделі OpenAI GPT-3.5 — покращеної версія GPT-3.
Прототип ChatGPT було випущено 30 листопада 2022 року. Через детальність та ясність відповідей, його популярність виросла неймовірно швидко, хоча фактична точність цих відповідей підлягала критиці.
OpenAI внесла Україну у список держав поруч з такими країнами, як Іран, Росія та Венесуела та заборонила доступ до своїх продуктів, зокрема до ChatGPT. Сервіси OpenAI стали доступними в Україні з 18 лютого 2023 року, проте не працюватимуть на тимчасово окупованих рф територіях.
Музика Редагувати
MuseNet OpenAI (2019) — це глибока нейронна мережа, натренована передбачувати наступні музичні ноти в музичних файлах MIDI. Вона може породжувати музичні композиції з десятьма різними інструментами п'ятнадцятьма різними стилями. Згідно з The Verge, музичні композиції, породжувані MuseNet, мають схильність починатися стерпно, але потім впадають у хаос, що довше вона грає.
Jukebox (укр. музичний автомат) OpenAI (2020) — це алгоритм з відкритим кодом для породжування музики з вокалом. Після тренування на 1,2 мільйона зразків ця система приймає жанр, виконавця, та фрагмент тексту пісні, й видає зразки пісень. OpenAI заявляє, що ці пісні «демонструють локальну музичну узгодженість, дотримуються традиційних послідовностей акордів», але визнає, що цим пісням бракує «знайомих музичних структур більшого розміру, таких як повторювані хорові фрагменти», і що «існує значний розрив» між Jukebox та музикою, яку породжують люди. The Verge заявив, що «Це є технологічно вражаючим, навіть якщо результати звучать як м'які версії пісень, що можуть здаватися знайомими», тоді як Business Insider зазначив, що «несподівано, деякі отримані в результаті пісні є привабливими, й звучать допустимо».
ППІ Редагувати
У червні 2020 року, OpenAI анонсувала багатоцільовий ППІ, який, як вони сказали, був «для доступу до нових моделей ШІ, розроблених OpenAI», щоби дозволити розробникам робити виклики до нього для «будь-якої задачі ШІ для англійської мови».
Боти для відеоігор, та еталонні тести Редагувати
OpenAI Five Редагувати
OpenAI Five — це назва команди з п'яти опікуваних OpenAI ботів, яких використовують у конкурентній відеогрі Dota 2 п'ять на п'ять, і які вчаться грати проти гравців-людей на високому рівні майстерності, цілком через алгоритми спроб і помилок. До того, як вони стали командою з п'яти, перший публічний показ відбувся на The International 2017, щорічному прем'єрному турнірі чемпіонату з цієї гри, де Dendi, фаховий український гравець, програв ботові в поєдинку наживо 1 на 1. Після цього поєдинку технічний директор Грег Брокман пояснив, що цей бот вивчився, граючи проти самого себе протягом двох тижнів реального часу[en], і що це програмне забезпечення навчання було кроком у напрямку створення програмного забезпечення, що може виконувати складні задачі з хірургічною точністю. Ця система використовує різновид навчання з підкріпленням, оскільки боти вчаться з часом, граючи проти самих себе сотні разів на день протягом місяців, й отримують винагороду за такі дії як вбивство ворога та взяття цілей на мапі.
Станом на червень 2018 року можливості цих ботів розширилися до гри разом у складі повної команди з п'яти гравців, і вони виявилися здатними перемагати команди аматорських та напівфахових гравців. На The International 2018 OpenAI Five зіграла у двох показових поєдинках проти фахових гравців, але закінчила програшем в обох іграх У квітні 2019 року OpenAI Five перемогла OG, чинних чемпіонів світу з цієї гри на той момент, з рахунком 2:0 у показовому поєдинку наживо в Сан-Франциско. Останній публічний виступ цих ботів відбувся пізніше того ж місяця, де вони зіграли загалом 42 729 ігор у чотириденному відкритому змаганні онлайн, вигравши 99,4 % цих ігор.
GYM Retro Редагувати
Gym Retro — це платформа для досліджування навчання з підкріпленням на іграх. Gym Retro використовують для досліджування алгоритмів НП та вивчення узагальнювання. Попередні дослідження НП зосереджувалися переважно на оптимізуванні агентів для розв'язування окремих задач. Gym Retro уможливлює узагальнювання між іграми з подібними поняттями, але різним зовнішнім виглядом.
Судові позови Редагувати
У вересні 2023 року, за повідомленням повідомляє The Verge, OpenAI опинилася під судовим тиском від групи популярних письменників, які звинувачують її у крадіжці та незаконному використанні їхніх робіт. 17 відомих письменників, серед яких Джонатан Франзен, Джон Грішем, Джордж Р. Р. Мартін та Джоді Піколт, подали скаргу до суду Південного округу Нью-Йорку (США), яка, як вони сподіваються, буде класифікована як груповий позов. Згідно зі скаргою, OpenAI «копіювала роботи позивачів оптом, без дозволу та розгляду» та використовувала захищені авторським правом матеріали для навчання великих мовних моделей, таких як ChatGPT та LLaMA. Позивачі стверджують, що таке використання їхнього контенту ставить під загрозу їхнє джерело прибутку та порушує їхнє право на контроль над своїми творами.
Див. також Редагувати
- Сильний штучний інтелект
- Інститут майбутнього людства[en]
- Інститут майбутнього життя[en]
- Науково-дослідний інститут машинного інтелекту
- OpenCog
- ONNX
- Відкрита робототехніка
- Partnership on AI[en]
- Vicarious
Виноски Редагувати
- Термін «попереднє тренування» стосується загального тренування мови, на відміну від тонкого налаштування для конкретних задач
- Один петафлоп/с-день приблизно дорівнює 1020 нейромережних операцій
Примітки Редагувати
- OpenCorporates — 2010.
- ↑ https://www.crunchbase.com/organization/openai
- ↑ https://www.geekwire.com/2019/microsoft-invests-1-billion-openai-vows-build-ai-technology-platform-unprecedented-scale/
- https://thestack.technology/microsoft-invests-in-openai/
- YouTube Application Programming Interface
- Bubeck, Sébastien; Chandrasekaran, Varun; Eldan, Ronen; Gehrke, Johannes; Horvitz, Eric; Kamar, Ece; Lee, Peter; Lee, Yin Tat та ін. (27 березня 2023). Sparks of Artificial General Intelligence: Early experiments with GPT-4. arXiv:2303.12712 [cs]. Процитовано 3 квітня 2023.
- Max Tegmark: The Case for Halting AI Development | Lex Fridman Podcast #371 (uk-UA). Процитовано 17 квітня 2023.
- James Vincent (14 квітня 2023). OpenAI’s CEO confirms the company isn’t training GPT-5 and ‘won’t for some time’. www.theverge.com. Процитовано 17 квітня 2023.
- . OpenAI Blog. 12 грудня 2015. Архів оригіналу за 24 лютого 2019. Процитовано 9 листопада 2020. (англ.)
- ↑ . BBC News. 12 грудня 2015. Архів оригіналу за 14 березня 2018. Процитовано 19 грудня 2015. (англ.)
- ↑ Dave Gershgorn (27 квітня 2016). . Popular Science. Архів оригіналу за 30 квітня 2016. Процитовано 29 квітня 2016. (англ.)
- Metz, Cade. . WIRED. Архів оригіналу за 13 січня 2019. Процитовано 31 грудня 2016. (англ.)
- Mannes, John. . TechCrunch. Архів оригіналу за 19 лютого 2019. Процитовано 31 грудня 2016. (англ.)
- (en-us). Архів оригіналу за 1 січня 2017. Процитовано 31 грудня 2016. (англ.)
- Claburn, Thomas. . The Register. Архів оригіналу за 1 січня 2017. Процитовано 31 грудня 2016. (англ.)
- Vincent, James (21 лютого 2018). . The Verge. Архів оригіналу за 9 листопада 2020. Процитовано 9 листопада 2020. (англ.)
- Conger, Kate. . Gizmodo (амер.). Архів оригіналу за 24 вересня 2018. Процитовано 11 жовтня 2018. (англ.)
- Hao, Karen (17 лютого 2020). The messy, secretive reality behind OpenAI's bid to save the world. MIT Technology Review (амер.). оригіналу за 3 квітня 2020. Процитовано 9 березня 2020. (англ.)
- . OpenAI (англ.). 11 березня 2019. Архів оригіналу за 11 березня 2019. Процитовано 21 лютого 2020. (англ.)
- . OpenAI (англ.). 22 липня 2019. Архів оригіналу за 7 листопада 2020. Процитовано 21 лютого 2020. (англ.)
- Vance, Ashlee (11 червня 2020). . Bloomberg News. Архів оригіналу за 13 жовтня 2020. Процитовано 9 листопада 2020. (англ.)
- Bass, Dina (22 липня 2019). . Los Angeles Times (Los Angeles Times). Архів оригіналу за 22 липня 2019. Процитовано 22 липня 2019. (англ.)
- ↑ . The Seattle Times[en]. 13 грудня 2015. Архів оригіналу за 5 січня 2016. Процитовано 19 грудня 2015. (англ.)
- Etherington, Darrell (22 липня 2019). . TechCrunch. Архів оригіналу за 22 липня 2019. Процитовано 22 липня 2019. (англ.)
- ↑ Liedtke, Michael. . San Jose Mercury News[en]. Архів оригіналу за 22 грудня 2015. Процитовано 19 грудня 2015. (англ.)
- . Business Standard India (Business Standard). IANS. 12 грудня 2015. Архів оригіналу за 30 серпня 2019. Процитовано 30 серпня 2019. (англ.)
- Vincent, James (22 липня 2019). . The Verge. Архів оригіналу за 23 липня 2019. Процитовано 23 липня 2019. (англ.)
- ↑ Cade Metz (27 квітня 2016). . Wired magazine (амер.). Архів оригіналу за 27 квітня 2016. Процитовано 28 квітня 2016. (англ.)
- Anthony Patch (10 березня 2018). . Архів оригіналу за 24 лютого 2020. Процитовано 31 жовтня 2018. (англ.)
- Lewontin, Max (14 грудня 2015). . The Christian Science Monitor[en]. Архів оригіналу за 19 грудня 2015. Процитовано 19 грудня 2015. (англ.)
- Mendoza, Jessica. . The Christian Science Monitor[en]. Архів оригіналу за 3 липня 2018. Процитовано 9 листопада 2020. (англ.)
- Glenn W. Smith (10 квітня 2018). Re: Sex-Bots—Let Us Look before We Leap. Arts 7 (2): 15. doi:10.3390/arts7020015. (англ.)
- ↑ Metz, Cade (15 грудня 2015). . Wired. Архів оригіналу за 19 грудня 2015. Процитовано 19 грудня 2015. «Altman said they expect this decades-long project to surpass human intelligence.» (англ.)
- Vishal Sikka (14 грудня 2015). . InfyTalk. Infosys. Архів оригіналу за 22 грудня 2015. Процитовано 22 грудня 2015. (англ.)
- . TechCrunch (амер.). Архів оригіналу за 16 грудня 2019. Процитовано 10 травня 2019. (англ.)
- Levy, Steven (11 грудня 2015). . Medium/Backchannel[en]. Архів оригіналу за 6 березня 2018. Процитовано 11 грудня 2015. «Elon Musk: …we came to the conclusion that having a 501(c)(3)… would probably be a good thing to do» (англ.)
- Brockman, Greg (3 квітня 2017). Архів оригіналу за 18 травня 2019. Процитовано 9 листопада 2020. (англ.)
- . The New Yorker (10 October 2016). Архів оригіналу за 4 жовтня 2016. Процитовано 4 жовтня 2016. (англ.)
- Vincent, James (21 лютого 2019). . The Verge (англ.). Архів оригіналу за 9 лютого 2021. Процитовано 6 березня 2020. (англ.)
- . Reuters (англ.). 22 липня 2019. Архів оригіналу за 25 травня 2020. Процитовано 6 березня 2020. (англ.)
- ↑ . Wired (англ.). 3 грудня 2019. Архів оригіналу за 14 березня 2020. Процитовано 6 березня 2020. (англ.)
- ↑ Kahn, Jeremy (11 березня 2019). . Bloomberg News. Архів оригіналу за 7 грудня 2019. Процитовано 6 березня 2020. (англ.)
- Murgia, Madhumita (7 серпня 2019). . Financial Times. Архів оригіналу за 26 грудня 2019. Процитовано 6 березня 2020. (англ.)
- . Fortune (англ.). Архів оригіналу за 8 грудня 2019. Процитовано 6 березня 2020. (англ.)
- Vincent, James (22 липня 2019). . The Verge (англ.). Архів оригіналу за 7 грудня 2019. Процитовано 6 березня 2020. (англ.)
- Haskins, Caroline (12 березня 2019). . Vice News[en] (англ.). Архів оригіналу за 20 вересня 2019. Процитовано 6 березня 2020. (англ.)
- Lee, Dave (15 жовтня 2019). . BBC News. Архів оригіналу за 3 квітня 2020. Процитовано 29 лютого 2020. (англ.)
- Greg Brockman; John Schulman (27 квітня 2016). . OpenAI Blog (en-us). OpenAI. Архів оригіналу за 26 лютого 2019. Процитовано 29 квітня 2016. (англ.)
- . GitHub. Архів оригіналу за 28 січня 2019. Процитовано 8 травня 2017. (англ.)
- Brockman, Greg (12 вересня 2017). . @gdb (англ.). Архів оригіналу за 13 вересня 2017. Процитовано 7 листопада 2017. (англ.)
- . Wired. 11 жовтня 2017. Архів оригіналу за 7 листопада 2017. Процитовано 2 листопада 2017. (англ.)
- . MIT Technology Review (англ.). Архів оригіналу за 9 листопада 2018. Процитовано 2 листопада 2017. (англ.)
- Greene, Tristan (4 травня 2018). . The Next Web (амер.). Архів оригіналу за 5 травня 2018. Процитовано 31 травня 2018. (англ.)
- . Fast Company. 8 травня 2018. Архів оригіналу за 19 травня 2018. Процитовано 2 червня 2018. (англ.)
- . Openai.com. OpenAI. Архів оригіналу за 17 лютого 2019. Процитовано 27 серпня 2018. (англ.)
- Ryan, Mae (2018). (англ.). Архів оригіналу за 1 вересня 2018. Процитовано 1 вересня 2018. (англ.)
- . Архів оригіналу за 5 лютого 2021. Процитовано 9 червня 2020. (англ.)
- ↑ Hern Alex. New AI fake text generator may be too dangerous to release, say creators. — 2019. — 14 лютого. з джерела 14 лютого 2019. Процитовано 9 листопада 2020. (англ.)
- Schwartz, Oscar (4 липня 2019). . The Guardian. Архів оригіналу за 16 липня 2019. Процитовано 16 липня 2019. (англ.)
- Vincent, James (14 лютого 2019). . The Verge. Архів оригіналу за 18 грудня 2020. Процитовано 16 липня 2019. (англ.)
- . OpenAI (англ.). 5 листопада 2019. Архів оригіналу за 14 листопада 2019. Процитовано 14 листопада 2019. (англ.)
- Write With Transformer. оригіналу за 4 грудня 2019. Процитовано 4 грудня 2019. (англ.)
- Talk to Transformer. оригіналу за 4 грудня 2019. Процитовано 4 грудня 2019. (англ.)
- . Архів оригіналу за 12 грудня 2019. Процитовано 4 грудня 2019. (англ.)
- Ganesh, Prakhar (17 грудня 2019). Pre-trained Language Models: Simplified. Процитовано 9 вересня 2020. «Ідея попередньо натренованих моделей мови полягає в створенні чорної скриньки, яка розуміє мову, і яку відтак можливо просити виконати будь-яку конкретну задачу цією мовою.» (англ.)
- . OpenAI. 29 травня 2020. Архів оригіналу за 14 листопада 2020. Процитовано 29 травня 2020. (англ.)
- Sagar, Ram (3 червня 2020). . Analytics India Magazine (амер.). Архів оригіналу за 4 серпня 2020. Процитовано 14 червня 2020. (англ.)
- ↑ Brown, Tom; Mann, Benjamin; Ryder, Nick; Subbiah, Melanie; Kaplan, Jared; Dhariwal, Prafulla; Neelakantan, Arvind; Shyam, Pranav та ін. (2020-06-01). «Language Models are Few-Shot Learners». arXiv:2005.14165 [cs.CL]. (англ.)
- . Архів оригіналу за 12 грудня 2019. Процитовано 4 грудня 2019. «GPT-2, is a 1.5B parameter Transformer» (англ.)
- Brown, Tom; Mann, Benjamin; Ryder, Nick; Subbiah, Melanie; Kaplan, Jared; Dhariwal, Prafulla; Neelakantan, Arvind; Shyam, Pranav та ін. (2020-06-01). «Language Models are Few-Shot Learners». arXiv:2005.14165 [cs.CL]. «"Since we increase the capacity by over two orders of magnitude from GPT-2 to GPT-3"». (англ.)
- Ray, Tiernan (2020). . ZDNet (англ.). Архів оригіналу за 1 червня 2020. Процитовано 5 червня 2020. (англ.)
- Amodei, Dario; Hernandez, Danny (16 травня 2018). . Архів оригіналу за 17 червня 2020. Процитовано 9 листопада 2020. «Один петафлоп/с-день (пфс-день, англ. petaflop/s-day, pfs-day) складається з виконання 1015 нейромережних операцій за секунду протягом одного дня, або загалом близько 1020 операцій. Цей розрахунково-часовий добуток слугує розумовій зручності, як кВт-год для електроенергії.» (англ.)
- ↑ . OpenAI (англ.). 11 червня 2020. Архів оригіналу за 11 червня 2020. Процитовано 14 червня 2020. «Чому OpenAI вирішила випустити ППІ замість відкривання коду цих моделей?
Є три головні причини, через які ми це зробили. По-перше, комерціалізація цієї технології допомагає нам оплачувати наші поточні зусилля з дослідження ШІ, його безпеки та поведінки. По-друге, багато моделей, які лежать в основі цього ППІ, є дуже великими, вимагаючи великого досвіду для розробки та розгортання, й роблячи їх дуже дорогими для запускання. Це робить важким для будь-кого, крім великих компаній, отримувати вигоду від технології, що лежить в їх основі. Ми сподіваємося, що цей ППІ зробить системи з потужним ШІ доступнішими для малих бізнесів та організацій. По-третє, модель ППІ дозволяє нам простіше реагувати на зловживання цією технологією. Оскільки складно передбачити подальше використання наших моделей, ми відчуваємо, що природно безпечніше випускати їх через ППІ, й розширювати доступ з часом, замість випускати відкриту модель, доступ до якої неможливо буде регулювати, якщо виявиться, що вона має шкідливі застосування.» (англ.) - Eadicicco, Lisa. . Business Insider. Архів оригіналу за 14 листопада 2020. Процитовано 6 липня 2020. (англ.)
- . MIT Technology Review (англ.). Архів оригіналу за 5 лютого 2021. Процитовано 24 вересня 2020. (англ.)
- . VentureBeat (амер.). 22 вересня 2020. Архів оригіналу за 8 листопада 2020. Процитовано 24 вересня 2020. (англ.)
- Anisimova, Svitlana (13 грудня 2022). Чат-бот на основі ШІ ChatGPT не витримує популярності. Root Nation (укр.). Процитовано 14 грудня 2022.
- Штучний інтелект пише тексти майже як людина. Розповідаємо деталі. ДОУ (укр.). Процитовано 14 грудня 2022.
- Нейромережа ChatGPT відтепер доступна в Україні. Громадське радіо (укр.). Процитовано 19 лютого 2023.
- ChatGPT: епоха нових загроз чи нових можливостей?. www.ukrinform.ua (укр.). Процитовано 19 лютого 2023.
- . The Verge. April 2019. Архів оригіналу за 28 червня 2019. Процитовано 8 червня 2020. (англ.)
- . OpenAI. Архів оригіналу за 13 червня 2020. Процитовано 8 червня 2020. (англ.)
- . The Verge. 30 квітня 2020. Архів оригіналу за 8 червня 2020. Процитовано 8 червня 2020. (англ.)
- Stephen, Bijan (30 квітня 2020). . Business Insider (англ.). Архів оригіналу за 8 червня 2020. Процитовано 8 червня 2020. (англ.)
- . OpenAI. Архів оригіналу за 8 червня 2020. Процитовано 8 червня 2020. (англ.)
- . TechCrunch. Архів оригіналу за 12 червня 2020. Процитовано 11 червня 2020. «Якщо вам колись хотілося спробувати хвалений інструментарій машинного навчання OpenAI, то це стало набагато простішим. Ця компанія випустила ППІ, який дозволяє розробникам робити виклики її інструментів ШІ у „практично будь-якій задачі для англійської мови“”» (англ.)
- Savov, Vlad. . The Verge. Архів оригіналу за 20 жовтня 2018. Процитовано 25 червня 2018. (англ.)
- Frank, Blair Hanley. . Venture Beat. Архів оригіналу за 12 серпня 2017. Процитовано 12 серпня 2017. (англ.)
- . blog.openai.com. Архів оригіналу за 11 серпня 2017. Процитовано 12 серпня 2017. (англ.)
- . blog.openai.com. Архів оригіналу за 23 лютого 2019. Процитовано 16 серпня 2017. (англ.)
- ↑ Simonite, Tom. . Wired. Архів оригіналу за 9 лютого 2019. Процитовано 25 червня 2018. (англ.)
- Kahn, Jeremy. . Bloomberg. Архів оригіналу за 27 листопада 2018. Процитовано 27 червня 2018. (англ.)
- Clifford, Catherine. . CNBC. Архів оригіналу за 9 жовтня 2018. Процитовано 29 червня 2018. (англ.)
- . blog.openai.com. Архів оригіналу за 13 лютого 2019. Процитовано 25 серпня 2018. (англ.)
- Vincent, James. . The Verge. Архів оригіналу за 17 січня 2019. Процитовано 25 червня 2018. (англ.)
- Savov, Vlad. . The Verge. Архів оригіналу за 17 січня 2019. Процитовано 7 серпня 2018. (англ.)
- Simonite, Tom. . Wired. Архів оригіналу за 4 жовтня 2018. Процитовано 25 серпня 2018. (англ.)
- Quach, Katyanna. . The Register. Архів оригіналу за 30 жовтня 2018. Процитовано 25 серпня 2018. (англ.)
- . blog.openai.com. Архів оригіналу за 14 лютого 2019. Процитовано 25 серпня 2018. (англ.)
- Statt, Nick. . The Verge. Архів оригіналу за 15 квітня 2019. Процитовано 20 липня 2019. (англ.)
- . OpenAI Blog. Архів оригіналу за 30 червня 2019. Процитовано 20 липня 2019. (англ.)
- Wiggers, Kyle. . Venture Beat. Архів оригіналу за 11 липня 2019. Процитовано 22 квітня 2019. (англ.)
- Джордж Мартін та інші письменники подали до суду на OpenAI. // Автор: Артем Житкевич. 21.09.2023
Посилання Редагувати
Відео Редагувати
- Sam Altman: OpenAI CEO on GPT-4, ChatGPT, and the Future of AI | Lex Fridman Podcast #367
- Wojciech Zaremba: OpenAI Codex, GPT-3, Robotics, and the Future of AI | Lex Fridman Podcast #215
- Ilya Sutskever: Deep Learning | Lex Fridman Podcast #94
- Greg Brockman: OpenAI and AGI | Lex Fridman Podcast #17