OpenAI анонсировала Astra — семейство моделей для долгосрочных задач
Искусственная память
OpenAI представила Astra — семейство искусственных интеллектов, способных работать над долгосрочными задачами, помнить контекст и возвращаться к прерванным разговорам. Компания называет это научным прорывом, и, возможно, так оно и есть. Но для тех, кто помнит обещания предыдущих технологических волн, это прежде всего очередной виток старой истории: машина обещает стать внешней памятью человека, его секретарём, архивом и продолжением мысли.
Мы уже видели подобное. Поисковики обещали нам никогда ничего не забывать. Облачные хранилища — держать всю нашу жизнь в одном месте. Персональные помощники — понимать нас с полуслова. Каждый раз технология действительно работала, но эффект оказывался двойственным: мы получали инструмент и одновременно теряли навык обходиться без него. Калькулятор освободил от счёта в уме, но заодно отучил считать. Навигатор избавил от необходимости запоминать маршруты, но вместе с тем мы перестали ориентироваться в собственном городе. Astra идёт дальше: она обещает помнить не просто данные, а ход наших мыслей, наши незавершённые намерения, наши планы.
Это вызывает два чувства сразу. С одной стороны — облегчение: наконец-то что-то, что не забудет, не потеряет нить, не заставит начинать с начала. С другой — лёгкая тревога: а что, если мы сами разучимся удерживать в голове больше одной мысли? Что, если способность вернуться к прерванному делу без внешней подсказки станет редкостью, как умение писать от руки без ошибок?
Для русскоязычного израильтянина в этой новости есть особый привкус. Мы приехали из культуры, где память была едва ли не главным капиталом. Стихи наизусть, цитаты, анекдоты, длинные разговоры без записи — всё это держалось в голове, потому что другого способа сохранить не было. Здесь, в Израиле, мы столкнулись с обществом, которое живёт быстрее, записывает больше и меньше полагается на человеческую память. Сын сейчас на службе, и когда он звонит, я ловлю себя на том, что не помню, о чём мы говорили в прошлый раз, — приходится листать переписку. Дочь в двенадцатом классе готовится к багруту, и половину материала она не запоминает, а знает, где найти. Я не осуждаю: она выросла в мире, где информация всегда под рукой. Но иногда думаю: а не теряем ли мы что-то важное, передавая память машинам? Astra — это просто следующий шаг в этом направлении.
Технология, которая помнит за нас, меняет не только то, как мы работаем, но и то, как мы думаем. Когда знаешь, что всегда можно вернуться к записи, перестаёшь напрягаться, чтобы запомнить. Это удобно, но это и ловушка: мысль, которую не удержал сам, — это мысль, которой не владеешь. Она хранится где-то снаружи, в чужой системе, и для доступа к ней нужен интерфейс. А интерфейс может измениться, устареть, закрыться.
Есть ещё один аспект, о котором говорят меньше: зависимость. Чем больше мы полагаемся на систему, тем беспомощнее становимся без неё. Astra обещает стать незаменимой — и это именно то, что настораживает. Незаменимость технологии означает, что отказаться от неё будет невозможно. Мы уже не представляем жизни без поиска, почты, карт. Скоро не сможем представить её без искусственного интеллекта, который помнит наши намерения.
Это не призыв отказаться от новых инструментов. Это просто напоминание: каждый инструмент что-то даёт и что-то забирает. Astra даст нам внешнюю память, продолжение мысли, помощника, который никогда не устаёт. Но заберёт привычку помнить самим, держать в голове сложное, возвращаться к незавершённому без подсказки. Мы уже много раз проходили этот обмен. Вопрос не в том, хорош он или плох, — а в том, понимаем ли мы, на что соглашаемся.
Для поколения, выросшего в Союзе, память была способом сопротивления: то, что в голове, у тебя не отнимут. Здесь, в Израиле, память стала товаром: её можно купить, арендовать, доверить облаку. Astra — это ещё один шаг в сторону мира, где помнить не обязательно. Возможно, это и есть будущее. Но стоит хотя бы заметить, что мы его выбираем.
Забыть нельзя доверить
OpenAI представила Astra — искусственный интеллект, который помнит контекст, возвращается к прерванным задачам и, по сути, становится внешней памятью пользователя. Компания называет это прорывом, и, наверное, с технической точки зрения так и есть. Но с человеческой точки зрения это просто очередная сделка: ты отдаёшь машине право помнить за тебя, а взамен получаешь удобство. Вопрос в том, что ещё ты отдаёшь вместе с этим правом — и заметишь ли, когда потеряешь.
Проблема не в том, что технология плохая. Проблема в том, что она работает слишком хорошо. Когда система действительно помнит всё, ты перестаёшь напрягаться. Зачем держать в голове, если можно спросить? Зачем записывать, если записано автоматически? Зачем возвращаться мысленно, если Astra вернёт тебя сама? Это удобно ровно до того момента, пока система не станет единственным способом вспомнить. А потом окажется, что ты больше не владеешь своими мыслями — ты их арендуешь.
Для русскоязычного израильтянина это особенно чувствительная тема. Мы приехали из культуры, где важные вещи не записывались, а запоминались: стихи, адреса, телефоны, даты. Потому что бумага терялась, записи могли быть опасны, а голова была самым надёжным хранилищем. Здесь всё иначе: всё записано, всё в облаке, всё можно найти. И поначалу это кажется свободой. Но потом замечаешь, что дочь в пятом классе не помнит номер моего телефона — он просто есть в контактах. Что я сама не знаю наизусть адрес своей съёмной квартиры на иврите — копирую его из переписки. Что мы оба разучились помнить то, что можно нажатием кнопки найти.
Astra обещает пойти дальше: она будет помнить не данные, а намерения. Ты начал задачу, отвлёкся, вернулся через неделю — и система напомнит, на чём ты остановился. Звучит прекрасно. Но это означает, что ты больше не тренируешь мозг удерживать незавершённое. Ты делегируешь это машине. И через какое-то время обнаружишь, что без машины не можешь вспомнить, что вообще хотел сделать.
Есть ещё один момент, о котором не говорят вслух: технология, которая помнит за тебя, также решает, что ты забудешь. Потому что интерфейс показывает не всё, а то, что считает важным. Алгоритм выбирает, какие незавершённые задачи всплывут первыми, какие уйдут в архив, какие исчезнут совсем. Ты думаешь, что контролируешь свою память, но на самом деле контролирует тот, кто настраивает систему. И это уже не просто удобство — это власть.
Я перестала верить обещаниям, что новая технология освободит меня. Каждый раз оказывается, что она освобождает от одного и привязывает к другому. Навигатор освободил от необходимости знать город — и привязал к экрану. Переводчик освободил от необходимости учить язык — и оставил зависимой от приложения. Astra освободит от необходимости помнить — и сделает зависимой от того, кто этой памятью управляет.
Что с этим делать? Не отказываться от технологии — это бессмысленно. Но хотя бы заметить, что происходит. Заметить, что ты перестаёшь помнить. Заметить, что задачи, которые раньше держал в голове, теперь живут только в системе. Заметить, что без доступа к Astra ты беспомощнее, чем был до неё. И задать себе вопрос: а готов ли ты к этому? Потому что назад дороги не будет. Как только привыкнешь, что машина помнит за тебя, отвыкнуть уже не получится.
Я живу одна с дочерью, и мне приходится помнить всё: когда оплатить аренду, когда родительское собрание, когда принести справку, когда заканчивается битуах леуми. Я записываю, конечно, но если не держу это в голове — обязательно что-то упущу. Потому что система не знает контекста моей жизни. Она не знает, что если я пропущу оплату, хозяйка позвонит вечером и испортит весь день. Что если забуду про собрание, дочь на следующий день будет единственной, чья мама не пришла. Astra обещает помнить это всё за меня. Но я не уверена, что хочу ей доверить то, от чего зависит моя повседневная жизнь. Потому что когда зависишь — ты уже не свободна.
А вам что ближе — Аркадий или Саша?
Есть что сказать обозревателям? Кто из двоих сегодня попал точнее — пишите ниже.
Пока тишина. Будьте первым — кто прав сегодня?
Комментарии проходят автомодерацию: без оскорблений, рекламы и ссылок. Мнения читателей могут не совпадать с позицией редакции.
К чему они уже возвращались
Предыдущие выпуски «Разговора дня» — можно листать и читать целиком.