ДАЙДЖЕСТ

Meta Марка Цукерберга намагається повернути лідерство у ШІ-перегонах

[08:40 20 июня 2023 года ] [ Forbes-Украина, 19 червня 2023 ]

Чи вдасться компанії наздогнати OpenAI, Google та Databricks. Аналіз WSJ

Гендиректор Meta Марк Цукерберг вважає штучний інтелект важливим для довгострокового зростання компанії. Втім, з утриманням талановитих розробників і вчених у нього проблеми. Wall Street Journal проаналізував шлях Meta у сфері ШІ, а також поточні успіхи й невдачі компанії. Forbes вибрав головне.

У травні Білий дім збирав “компанії, що стоять на передовій ШІ-інновацій”, але компанія Марка Цукерберга — Meta — не потрапила до списку “обраних”. Це попри те, що 10 років тому засновник і гендиректор тоді ще Facebook Марк Цукерберг помітив потенціал штучного інтелекту й почав інвестувати чималі гроші у розвиток цієї технології.

Початок ШІ-розробок у Meta

З 2013-го Цукерберг із тодішнім головним технологічним директором Facebook Майком Шрьопфером особисто зайнялися пошуком провідних “умів” галузі, які увійшли до нового дослідницького ШІ-підрозділу компанії. Вони залучили одного із ранніх розробників ШІ — Яна Лекуна, викладача в Університеті Нью-Йорка. Вже тоді його роботи у сфері були загальновизнаними.

Лекун робив акцент на науці й фундаментальних дослідженнях, що відображала створена у Facebook культура. Обираючи співробітників, він надавав перевагу науковцям перед інженерами, зосереджувався на академічних результатах, як-то наукові роботи, а не на розробці продуктів для користувачів. Так компанія стала привабливою для талановитих дослідників, які хотіли попрацювати у передовій ШІ-лабораторії. Але такий підхід також і перешкоджав комерціалізації створених ідей.

Дослідникам бракувало єдиної стратегії та чіткої мети дослідження, зазначають знайомі із тодішньою роботою Facebook люди. Вони просували власні плани, займаючись незалежними проєктами різних напрямів, а не виконували єдину для компанії, звʼязну стратегію.

Тепер вже Meta повільно оснащувала власні дата-центри потужнішими чипами, які необхідні для ШІ-розробок. Але їй бракувало чіткої системи їх розподілу між інженерами та дослідниками. Бувало так, що тисячі таких цінних компонентів просто припадали пилом, розповіли деякі джерела.

Наразі Meta в процесі оновлення дата-центрів. Це може бути причиною певного застою у нових розробках ШІ. Станом на травень суперкомпʼютер Meta для ШІ-проєктів містить 16 000 чипів.

У 2020-му великі мовні моделі (ВММ) почали демонструвати разючі можливості, але дослідників Meta вони поділили на два табори. Тих, хто закликав компанію інвестувати у розробку, та тих, хто вважав, що цим моделям бракує наукової цінності.

Другий табір очолив Лекун. Результат активного опору науковця (впевненого, що ВММ не наближають ШІ до рівня людського інтелекту) — дослідники Meta із протилежною думкою не могли заручитися необхідною підтримкою та ресурсами для подальших проєктів із ВММ.

Декому все ж вдалося досягти певних результатів із невеликими ресурсами. Для одного проєкту використали близько 1000 мікрочипів і створили у 2022-му ВММ під назвою OPT. На інший пішло близько 2000 чипів, у 2023-му він став флагманською мовною моделлю Meta — LLaMA. Її покликання — допомогти дослідникам працювати в галузі ШІ.

Стандартом індустрії є використання від 5000 до 10 000 мікросхем для створення великих мовних моделей

Фото Getty Images

Компанія дала доступ до LLaMA невеликій групі сторонніх дослідників, але потім модель злили в мережу, що зумовило значний вибух інновацій. Це чудовий приклад цілі компанії ділитися своїми ШІ-технологіями, так відреагували на це керівники Meta.

Проте за минулий рік Meta втратила низку своїх ШІ-дослідників, які працювали над цими та іншим проєктами генеративного ШІ, пославшись на вигорання чи невпевненість у тому, що компанія зможе встигнути за конкурентами. Шість із 14 авторів дослідницької роботи, що лягла в основу LLaMA, пішли з компанії або оголосили про те, що скоро підуть, у своїх профілях в LinkedIn. Вісім із 19 співавторів роботи, на яку спирається OPT, теж залишили Meta.

Кількість добровільних звільнень збільшилася після виходу ChatGPT у листопаді минулого року.

ШІ-лихоманка змінила ринок праці у Кремнієвій долині. LinkedIn повідомила, що на березень кількість оголошень про роботу зі згадкою GPT збільшилися на 79% порівняно з попереднім роком. Речник Meta повідомив, що компанія продовжує наймати ШІ-таланти.

ШІ-продукти Meta

Після дебюту ChatGPT Цукерберг і директор продуктів Meta Platforms приєдналися до головного технологічного директора Ендрю Босворта, щоб разом контролювати ШІ-ініціативи компанії.

Нова група генеративного ШІ Meta займається виключно розробкою конкретних продуктів та інструментів, тобто очевидний перехід від наукових досліджень. Отримано понад 2000 заявок від співробітників компанії, охочих до неї увійти. Тепер вона складається із сотень людей з різних відділів. За словами інсайдерів, обладнання забрали у дослідницького підрозділу ШІ й віддали новій групі для тренування нових генеративних ШІ-моделей.

У березні Цукерберг заявив, що “розвиток ШІ й додавання його у кожен наш продукт” — найбільша інвестиція компанії. Він сподівається розширити технологію й у метавсесвіт.

На загальних зборах компанії Цукерберг оголосив про низку генеративних ШІ-продуктів, над якими ведеться робота:

ШІ-агенти для Messenger та WhatsApp.
ШІ-стікери, які користувачі можуть створювати за текстовими запитами й ділитися ними в чатах.
Опція генерування фото, яка дозволить користувачам Instagram модифікувати свої фото за допомогою текстових запитів, а потім можна буде ділитися ними в сторіз.

Також Цукерберг розповів про виключно внутрішні ШІ-інструменти для співробітників. Один із них — Metamate — цифровий помічник, який дістає інформацію із внутрішніх джерел та виконує завдання за запитом. Його вже випробовують.

А в пʼятницю Цукерберг оголосив про ШІ-модель Voicebox, яка може вголос читати текстові запити з різною інтонацією або виправляти аудіозаписи за текстовими запитами (наприклад, вона може прибрати фоновий шум). Meta не повідомила про те, коли цей дослідницький проєкт буде доступний публіці.

Цукерберг та інші керівники компанії назвали ШІ “третьою ногою для Meta” разом із глобальним зв’язком, віртуальною та доповненою реальністю. Відставання в ШІ-розробках загрожує Meta, яка задавала темп інновацій у Кремнієвій долині, стати важкою та повільною порівняно з конкурентами. Вже є застережливі дзвіночки: у травні Білий дім не запросив Meta на саміт компаній-лідерів ШІ.

Неприязнь до ризиків

У компанії Цукерберга залишається чимало викликів. Роками уряд та ЗМІ прискіпливо слідкують за тим, як компанія зберігає дані користувачів. Це призвело до небажання Meta ризикувати, створило напругу навколо того, як і коли представляти ШІ-продукти.

У минулому Meta доводилося зважати на репутацію під час розробки й запуску великих мовних моделей, які схильні видавати неправильні відповіді й образливі зауваження. За словами знайомих із питанням людей, кілька років тому ШІ-дослідники працювали над чат-ботом під кодовим імʼям Tamagobot. Команду Meta вразили результати проєкту, але вирішили його не випускати на загал через шквал критики за поширення дезінформації на Facebook під час президентських виборів у США у 2016-му.

Коли Meta випустила свій чат-бот BlenderBot 3 у серпні 2022-го, до реакції публіки також прислухалися. За лічені тижні після випуску продукт розкритикували за хибні твердження, образливі зауваження й расистські коментарі, а сам бот назвав Цукерберга “моторошним і маніпулятивним”. Проєкт не закривали понад рік для підбиття підсумків. За цей час компанія випустила чимало інших проєктів, що вказує на готовність Meta до ризиків.

Але все ж небажання ризикувати знову дало про себе знати у листопаді 2022-го, коли компанія випустила Galactica — мовну модель, яка зосереджена на науці. Проєкт закрили за три дні після випуску через шквал критики від науковців за неправильні й упереджені відповіді.

За два тижні після цього проєкту OpenAI презентувала світу ChatGPT.