Цього тижня «Складні системи» з @philipkiely, який нещодавно написав книгу (буквально) про інженерію висновків. Ми обговорювали, як виглядає впровадження ШІ як інженерного питання в підприємствах.

Я й досі вважаю, що чат-додатки — це а) одні з найпопулярніших окремих додатків, які коли-небудь виходили на ринок, і б) здебільшого є технічною демонстрацією реального продукту — API. Це трансформативний примітив, подібний до операторів if і циклів for.

На відміну від if операторів і для циклів, тут розвивається проміжний шар, частково через швидкість змін підкладки, що (дивно для технологій) не є строго позитивним. Тож замість того, щоб рвати волосся, коли виходить оновлення моделі...

... Команда, відповідальна за масштабне розгортання розвідки, може, наприклад, автоматизовано бенчмаркувати різні моделі з різними завданнями, які ви маєте, перевіряти попередні запити з новим претендентом і автоматично оцінювати їх, а потім автоматично просувати переможців.

Багато з цього нагадує адаптивне впровадження інфраструктури на льоту, що для мене трохи нагадує наукову фантастику.

Я вважаю, що у Twitter є асиметрична видимість сценаріїв використання професійного ШІ, включно з сучасними інструментами для програмування (які є економічно найважливішими розробками LLM... на сьогодні). Впровадження в корпоративному секторі буде відставати, але не на десятиліття, і виглядати інакше.

Менше «давайте просто дамо всі вхідні скриньки і YOLO», більше пілотів, більше бізнес-додатків, які поступово трансформуються, а потім у другому поколінні все стає дуже дивним, коли починаєш думати: «Як виглядає цей бізнес-процес, якщо ми спроектуємо його навколо існуючих LLM.»