БлоGнот

Вот вам еще одна разработка исследователей — на этот раз из MIT и Гарварда, — на тему обучения моделей рассуждениям. В этом случае исследователи, чтобы обойтись без дорогостоящего обучения с участием большой модели, применением RLHF и SFT, разработали метод "Chain-of-Action-Thought" (COAT), когда сначала для модели генерируется небольшой обучающий набор рассуждений, а затем модель по нему обучается в процессе генерации промежуточных звеньев в цепочке останавливаться, оценивать решение, искать альтернативный подход и двигаться дальше.

Ключевая особенность подхода Satori в том, что модель учится рассуждать без внешнего руководства, она сама оценивает промежуточные результаты и сама ищет альтернативные решения. При этом навыки рассуждения, полученные на математических задачах, успешно переносятся на другие области — логику, программирование и так далее.

Обученная на базе Qwen-7B модель обошла по тестам своих одноклассников и даже большие (Llama 70B) модели, а в других областях продемонстрировала результаты на уровне лидеров, при том, что она не обучалась на материале этих тем.

Но еще одну ссылку я дам на свой блог — поскольку обсуждая статью с LLM, у нас родилась идея, что аналогичный подход можно реализовать с помощью few shot на топовой LLM и оказалось, что действительно можно и результаты получаются заметно лучше, чем даже с традиционными примерами "вопрос-ответ". Правда, промпт получается немаленький, но… читайте в блоге, я там описал подробности.

Пятьдесят долларов облачных кредитов — именно столько потребовалось исследователям из Стэнфорда и Университета Вашингтона, чтобы создать AI-модель, способную соревноваться с продуктами технологических гигантов. Это как если бы кто-то собрал Ferrari в гараже из запчастей от Toyota, причем машина поехала почти так же быстро, как оригинал.

Секрет успеха кроется в методе дистилляции — своеобразном AI-репетиторстве, когда маленькая модель учится у большой, перенимая её способности к рассуждению. Исследователи использовали всего 1000 тщательно подобранных вопросов и ответов от Google Gemini, потратили полчаса на 16 GPU — и получили модель s1, показывающую впечатляющие результаты в тестах на математику и программирование.

В то время как Meta, Google и Microsoft планируют вложить сотни миллиардов долларов в AI-инфраструктуру в 2025 году, этот эксперимент ставит неудобный вопрос: а нужны ли такие гигантские инвестиции? Конечно, дистилляция не создает принципиально новых возможностей, но она может сделать существующие технологии доступными для более широкого круга разработчиков и даже бизнес-пользователей.

Впрочем, я бы еще задумался о тестах — за последние полгода мы уже видели много моделей, "показывающих впечатляющие результаты в тестах", но только R1 вроде удовлетворяет пользователей за пределами тестов.

https://techcrunch.com/2025/02/05/researchers-created-an-open-rival-to-openais-o1-reasoning-model-for-under-50/

Wall Street преподнес Илону Маску неожиданный подарок — банки продали долг X на $5.5 млрд по цене 97 центов за доллар, что существенно выше первоначальных планов. Те же самые банки, которые списывали миллиарды на этих кредитах после покупки Twitter в 2022 году, теперь радуются возможности улучшить свои балансы.

Что изменилось? Формально — финансовые показатели. X сообщил о выручке $2.7 млрд и EBITDA $1.25 млрд за 2024 год. Это все еще существенно ниже результатов Twitter за 2021 год ($5 млрд и $682 млн соответственно), но уже не выглядит катастрофой. Возвращение крупных рекламодателей вроде Amazon внушает оптимизм, хотя компания все еще балансирует на грани безубыточности.

Но главные причины энтузиазма инвесторов лежат за пределами финансовой отчетности. Во-первых, это растущая синергия с xAI — X получил 10% долю в компании, оцененную в $5 млрд, а искусственный интеллект Маска тренируется на данных соцсети. Во-вторых, и это, понятно, ключевой фактор — политическое влияние Маска после возвращения Трампа в Белый дом.

Впрочем, даже самые оптимистичные инвесторы признают, что при процентных платежах более $1 млрд в год компании придется непросто. А банкам еще предстоит продать оставшиеся $6 млрд долга X, причем более рискованного. Но пока Wall Street готов делать ставку на "Маск Inc." — конгломерат компаний, чья стоимость все больше зависит от политического капитала их владельца.

https://www.wsj.com/finance/banks-sell-5-5-billion-of-x-loans-after-investor-interest-surges-4b84f89c?st=gutaJz&reflink=article_copyURL_share

Почтовая служба США быстро отыграла назад решение о приостановке приема посылок из Китая и Гонконга. Всего через 12 часов после объявления о временной заморозке отправлений USPS сообщила, что продолжит принимать "всю входящую международную почту и посылки".

Замешательство возникло на фоне отмены правила "de minimis" для Китая, которое ранее позволяло беспошлинно ввозить в США небольшие посылки стоимостью до $800. Это исключение, которым активно пользовались китайские e-commerce компании, было отменено в рамках введения новой 10% пошлины на товары из Китая и Гонконга.

Теперь USPS и Таможенная служба работают над механизмом эффективного сбора новых пошлин с минимальными нарушениями в доставке посылок.

В общем, это скорее демонстрирует консистентность менеджмента. Как где-то уже написали, "Илон Маск приносит хаос из Twitter в федеральное правительство", но, как мы видим на этой неделе, пример заразителен и скорость распространения хаоса и в международную политику и даже на госкомпании впечатляет.



https://www.bloomberg.com/news/articles/2025-02-05/us-postal-service-says-it-s-accepting-china-hong-kong-packages?utm_medium=social&utm_source=telegram&utm_content=business&embedded-checkout=true

Google существенно пересмотрел свои принципы использования искусственного интеллекта, убрав ряд этических ограничений. Компания больше не обещает отказываться от технологий, которые "могут причинить общий вред", "предназначены для нанесения травм людям" или "нарушают международные нормы в области прав человека".

В компании объясняют изменения широким распространением AI, меняющимися стандартами и геополитической борьбой за лидерство в этой сфере. Вместо конкретных запретов теперь Google обещает "соответствующий человеческий надзор" и "механизмы обратной связи".

Эти принципы были приняты в 2018 году после протестов сотрудников против участия компании в военной программе по дронам. Тогда Google отказался продлевать контракт с Пентагоном и принял строгие этические ограничения.

Сейчас компания заявляет, что "демократии должны лидировать в развитии AI" и что компании, разделяющие эти ценности, должны сотрудничать для создания AI, который "защищает людей, способствует глобальному росту и поддерживает национальную безопасность".

В-общем, don't be evil …, но это не точно.

P.S. Да, оригинальный лозунг Google убрал еще в 2015-м, заменив его на Do the right thing, и, как можно убедиться, продолжает его придерживаться. Это не сложно, надо только всегда точно знать, что сегодня right thing.

https://www.wired.com/story/google-responsible-ai-principles/

Пока мы спали, OpenAI провела масштабный ребрендинг. Он включает в себя новый фирменный шрифт OpenAI Sans, обновленный логотип и единый визуальный язык для всех продуктов компании. Это первое серьезное обновление айдентики с момента основания компании в 2015 году.

Кроме того, обновленный вебсайт теперь встречает посетителей формой ChatGPT — правда, она вас сразу отправляет на chatgpt.com.

За редизайн отвечала внутренняя команда во главе с директором по дизайну Вейтом Меллером и Шеннон Джагер, которые работали совместно с берлинской шрифтовой студией ABC Dinamo и голландской Studio Dumbar.

Основой нового визуального языка стала точка — черный круг, который представляет курсор и является определяющим геометрическим элементом для шрифта, сетки и интервалов. Этот мотив прослеживается во всем — от круглой буквы "O" в логотипе до "эмоциональной точки", пульсирующего синего диска, который обозначает взаимодействие пользователя с AI.

Тут можно было сказать что-то саркастическое, но оно было бы уместно при отсутствии других новостей от компании, а их, в-общем, достаточно, так что могут и логотип перерисовывать, сколько душе угодно.

https://www.wallpaper.com/tech/openai-has-undergone-its-first-ever-rebrand-giving-fresh-life-to-chatgpt-interactions

Sonos будет не только говорить, но и показывать — компания готовится к выходу на рынок видеоустройств со стриминговым плеером премиум-класса под кодовым названием Pinewood. По слухам, цена может составить $200-400, что довольно много, большинство конкурентов стоят раза в два дешевле.

Устройство разработано на базе Android и должно объединить контент Netflix, Max, Disney+ и других сервисов в едином интерфейсе с универсальным поиском. Кроме того, оно получит несколько HDMI-портов для подключения игровых консолей и других устройств, поддержку Wi-Fi 7 и возможность беспроводной передачи звука на колонки Sonos без задержек.

Впервые пользователи смогут создать полноценную систему окружающего звука с выделенными фронтальными каналами, используя другие свои колонки Sonos. Это позволит реализовать более продвинутые конфигурации Dolby Atmos.

В общем, Sonos продолжает оставаться компанией с прекрасным железом. Будем надеяться, что использование Android наконец-то решит проблемы компании с программным обеспечением. Учитывая текущее кризисное состояние, совсем недавно вылившееся в отставку CEO и уход директора по продуктам, компании это прямо необходимо.

https://www.theverge.com/sonos/606025/sonos-pinewood-video-player-features

Акции Alphabet упали на 9% после публикации отчетности — инвесторов напугали планы компании потратить $75 млрд на развитие AI-инфраструктуры в 2025 году, что на 29% больше ожиданий Уолл-стрит.

CEO Сундар Пичаи защищал это решение, заявив, что модели семейства Gemini сопоставимы по эффективности с DeepSeek, а стоимость использования AI будет снижаться. Однако инвесторы обеспокоены не только расходами, но и замедлением роста облачного бизнеса — выручка Google Cloud выросла на 30% до $11.96 млрд, что ниже ожиданий аналитиков в 32.3%.

Основной рекламный бизнес показал рост на 10.6% до $72.46 млрд, превзойдя прогнозы. YouTube увеличил рекламную выручку на 13.8% до $10.47 млрд, чему способствовали расходы на политическую рекламу в США — траты демократов и республиканцев почти удвоились по сравнению с выборами 2020 года.

Общая выручка компании выросла на 12% до $96.47 млрд, что чуть ниже ожиданий. Прибыль на акцию составила $2.15, превысив прогноз в $2.13.

Пичаи также сообщил, что подразделение беспилотных автомобилей Waymo в ближайшие недели начнет работу в Токио — это будет первый международный запуск сервиса.

https://www.reuters.com/technology/google-parent-alphabet-misses-quarterly-revenue-estimates-2025-02-04/

Почта США временно приостановила прием входящих международных посылок из Китая и Гонконга, что может привести к задержкам или блокировке отправлений от таких ритейлеров как Shein и Temu.

Это решение связано с отменой Трампом правила "de minimis" для Китая, которое ранее позволяло беспошлинно ввозить в США небольшие посылки стоимостью до $800. Теперь на такие товары будет распространяться новая 10% пошлина.

Объем посылок по схеме de minimis в США достиг 1,4 млрд в 2024 финансовом году — вдвое больше, чем в 2022-м, во многом благодаря Temu и Shein. Однако влияние запрета USPS может быть ограниченным, так как многие компании уже перешли на других операторов доставки. Общий объем международной почты через USPS упал с более чем 600 млн отправлений в 2017 году до менее 200 млн в 2022-м.

Пока сложно предсказать, к чему приведет стремительно разворачивание торговой войны — китайские компании занимают немалую долю американского рынка ecommerce, а производственные мощности многих американских компаний находятся в Китае. Я уже видел прогноз аналитиков, что этот кризис обойдется только Apple в 3% прибыли, а это примерно половина её роста за последний год. Можно только представить, как это отразится на компаниях с менее высокой маржинальностью.

https://www.bloomberg.com/news/articles/2025-02-05/us-postal-service-suspends-inbound-parcels-from-china-hk

Spotify впервые за свою историю показала прибыль по итогам полного года. В четвертом квартале компания заработала 367 млн евро против убытка в 70 млн евро годом ранее. За весь 2024 год чистая прибыль составила 1,14 млрд евро по сравнению с убытком в 532 млн евро в 2023 году.

Число активных пользователей выросло на 12% до 675 млн — это лучший четвертый квартал в истории компании, превысивший прогнозы на 10 млн. Платных подписчиков стало больше на 11%, достигнув 263 млн.

Такие результаты стали возможны благодаря смене стратегии — после многолетних инвестиций в рост и подкасты (более $1 млрд), компания в 2023 году сократила около 20% сотрудников и сфокусировалась на контроле расходов. Кроме того, Spotify повысила цены на подписку во многих регионах, включая США.

Валовая маржа достигла 32,2%, что выше целевого показателя в 30%, который компания планировала достичь между 2025 и 2027 годами. Средний доход на одного платного пользователя вырос на 5% до 4,85 евро благодаря повышению цен. Рекламная выручка увеличилась на 7% до 537 млн евро.

На фоне этих новостей акции Spotify с начала года выросли на 20%.

https://www.wsj.com/business/earnings/spotify-spot-q4-earnings-report-2024-f8d63d4e?st=QWJbhZ&reflink=desktopwebshare_permalink

Apple получила прекрасный аргумент для своей позиции в части модерации приложений в AppStore — приложение Hot Tub с порноконтентом стало доступно через альтернативный магазин AltStore PAL, который появился в регионе из-за требований европейского Digital Markets Act.

Разработчик Hot Tub позиционирует приложение как "одобренное Apple", что компания называет ложью. По правилам Apple, приложения в сторонних магазинах в ЕС проверяются только на наличие вредоносного ПО и совместимость с устройствами, но не получают одобрения по качеству или функциональности.

Apple заявляет, что "глубоко обеспокоена рисками безопасности", которые создают подобные приложения, особенно для детей. Компания подчеркивает, что никогда бы не допустила такое приложение в официальном App Store, но вынуждена разрешить его распространение из-за требований Еврокомиссии.

Любопытно, что AltStore получил инвестиции от Epic Games — давнего противника Apple, который судится с компанией по поводу правил App Store в разных странах. Epic также запустил собственный сторонний магазин для iPhone в ЕС.



https://www.bloomberg.com/news/articles/2025-02-03/apple-blasts-eu-app-laws-after-first-porn-app-comes-to-iphones?cmpid=tech-in-brief&utm_medium=email&utm_source=newsletter&utm_term=250204&utm_campaign=tech-in-brief

Апелляционный суд в Сан-Франциско скептически отнесся к аргументам Google о том, что конкуренция с Apple на рынке смартфонов является достаточным основанием для отмены вердикта присяжных по делу о монополии в Android-приложениях.

В 2023 году присяжные поддержали Epic Games, создателя Fortnite, обвинившего Google в установлении ограничительной политики Google Play Store и выплате производителям телефонов и разработчикам популярных приложений за эксклюзивное использование своего магазина. Да, в отличие от аналогичного иска в отношении Apple, в этом случае Epic удалось добиться участия жюри, что, возможно, сыграло свою роль в итоговом вердикте.

Google пытается убедить суд, что дело аналогично иску Epic против Apple, который компания проиграла. Однако судьи указывают на "четкие фактические различия между миром Android и миром Apple".

Google хочет отменить судебный запрет, требующий от компании снять ограничения на создание альтернативных магазинов приложений и платежных систем. Запрет приостановлен с осени прошлого года на время апелляции. Для понимания масштаба — в 2020 году магазин приложений принес Google более 14 миллиардов долларов дохода от 15-30% комиссии с большинства цифровых покупок.

Если вы запутались в исках против Google, то это первый из проигранных исков. По второму — относительно поисковой монополии, — Google также признан виновным, сейчас идет дискуссия относительно ограничительных мер, которые станут основой вердикта (это тут говорят про продажу Chrome и прочее), а третий иск, касающийся монопольного положения на рынке онлайн-рекламы, еще рассматривается судом.

https://www.bloomberg.com/news/articles/2025-02-03/google-bid-to-overturn-epic-app-win-eyed-skeptically-by-judges

Китай ответил на новые тарифы Трампа довольно сдержанно — Пекин объявил о расследовании в отношении Google (хотя сервисы компании недоступны в Китае с 2010 года), внес в черный список владельца Calvin Klein компанию PVH и производителя оборудования для генетического секвенирования Illumina, а также ввел 15% пошлины на импорт энергоносителей из США на сумму менее $5 млрд и 10% на американское нефтяное и сельскохозяйственное оборудование.

Похоже, что ответ Си Цзиньпина тщательно выверен — не нанести серьезного ущерба собственной экономике, но продемонстрировать Трампу способность создавать проблемы по разным направлениям, включая цепочки поставок важных минералов и деятельность американских компаний в Китае.

Рынки отреагировали довольно спокойно, особенно после сигналов Трампа о желании поговорить с китайским лидером до вступления тарифов в силу. Китайские пошлины должны вступить в силу 10 февраля, что оставляет пространство для переговоров.

https://www.bloomberg.com/news/articles/2025-02-04/china-probes-google-moments-after-trump-s-tariffs-enter-effect

Давайте лучше опять про AI.

Anthropic представила новую систему Constitutional Classifiers для защиты языковых моделей от универсальных джейлбрейков. В ходе тестирования прототипа системы более 180 участников потратили свыше 3000 часов на попытки обойти защиту, но никому не удалось найти универсальный джейлбрейк.

Обновленная версия системы блокирует 95.6% попыток джейлбрейка при минимальном увеличении ложных срабатываний (всего на 0.38%) и умеренном росте вычислительных затрат (на 23.7%).

Система работает на основе "конституции" — набора принципов, определяющих разрешенный и запрещенный контент. С помощью Claude генерируются синтетические промпты и ответы для всех категорий контента, включая варианты на разных языках и в стиле известных джейлбрейков. На этих данных обучаются классификаторы входящих запросов и исходящих ответов.

Anthropic предлагает присоединиться к публичному тестированию системы с 3 по 10 февраля 2025 года и попробовать обойти защиту версии Claude 3.5 Sonnet в области запросов, связанных с химическим оружием.

Интересно, что компания открыто признает: система может не предотвратить все универсальные джейлбрейки, а новые методы атак могут оказаться эффективными против нее. Тем не менее, даже те джейлбрейки, которые проходят через защиту, требуют гораздо больше усилий для обнаружения.

А будет еще интереснее, если окажется, что машина все же придумает набор принципов и их применения, который окажется более эффективным, чем реальные конституции, придуманные человеком. Сколько доморощенных правоведов в интернете исчезнет…

https://www.anthropic.com/research/constitutional-classifiers

Wired публикует обзор "команды" Маска, которая прямо сейчас получает доступ к приватной информации миллионов американцев — журналистам удалось идентифицировать шесть человек, все в возрасте от 19 до 24 лет, в основном интерны из компаний Маска и его друзей. Университетов большинство из них не кончало — в прямом смысле, если и поступили, то еще студенты.

И совершенно точно они не прошли соответствующих процедур по отбору и проверке, которые предусмотрены для государственных служащих с соответствующим доступом к закрытой информации.

Я бы сказал, что это "офис простых решений" на максималках. Соцсети в США гудят, кто-то предлагает засудить Трампа за каждого уволенного с нарушениями, я видел даже призывы к конгрессменам физически вмешиваться в деятельность этих ребят по вмешательству в работу федеральных учреждений. Но, я думаю, процесс пошел и скоро мы всё увидим — и сливы всех возможных баз, и недееспособность федеральных органов власти США выполнить хоть какую-то работу, и экономические последствия, всё будет.

https://www.wired.com/story/elon-musk-government-young-engineers/

Самые независимые от государств криптовалюты в очередной раз продемонстрировали свою полную независимость от государств.

В субботу президент США подписал указ о введении 25% тарифов на импорт из Канады и Мексики, 10% на канадские энергоносители и нефть, а также 10% на китайские товары. Мексика и Канада уже анонсировали ответные меры.

Это спровоцировало масштабные ликвидации на крипторынке — за сутки были закрыты позиции на $2.25 млрд, из которых $1.87 млрд пришлось на длинные позиции. Это одно из крупнейших событий такого рода в истории криптовалют, хотя и не рекордное — во время краха COVID-19 было ликвидировано позиций на $2.9 млрд.

За четыре дня рынок потерял более $700 млрд капитализации, опустившись с $3.57 трлн до $2.81 трлн. ETH упал на 16% до $2,589, XRP — на 16.4% до $2.40, остальные альткоины тоже потеряли более 10%. Любимый DOGE Маска упал почти на 16 процентов.

Забавно, что доминирование биткоина выросло почти до максимума за последние 4 года. Видимо, не все бегут в фиат.


https://cointelegraph.com/news/why-is-the-crypto-market-down-today

OpenAI внезапно запустил новую функцию "deep research" для ChatGPT, предназначенную для проведения глубоких исследований в различных областях — от науки и финансов до выбора бытовой техники. Это не просто быстрые ответы, а тщательный анализ информации из множества источников с полными ссылками и объяснением логики рассуждений.

Функция доступна пока только для пользователей ChatGPT Pro (до 100 запросов в месяц), позже появится у Plus и Team. Каждый поиск может занимать от 5 до 30 минут. Пока она доступна только в веб-интерфейсе, я не смог найти её в приложении.

Работает это на fine-tuned o3, обученной через reinforcement learning на реальных задачах с использованием браузера и Python. По заявлению компании, на тесте Humanity's Last Exam модель показала точность 26,6% — это свежий, самый сложный тест, чистая o3-mini на нем только что показывала самый высокий результат — 13%. Для сравнения, Gemini Thinking показала там 6,2%, а Grok-2 — 3,8%.

Фактически, это агент, причем недавно похожую функцию запустили в Google на базе Gemini 1.5, и я уже видел несколько открытых аналогов. 2025-й же обещали сделать годом агентов, ну и вот, "оптимизируем потихоньку".

https://techcrunch.com/2025/02/02/openai-unveils-a-new-chatgpt-agent-for-deep-research/

ЕС готовит серьезное ужесточение правил для онлайн-маркетплейсов вроде Temu, Shein и Amazon. Платформы будут нести ответственность за опасные или нелегальные товары, продаваемые через них, и должны будут предоставлять данные о товарах до их прибытия в ЕС.

Изменение серьезное — сейчас покупатель считается импортером для таможенных целей, а после реформы ответственность ляжет на платформы. Они должны будут собирать пошлины и НДС, а также обеспечивать соответствие товаров требованиям ЕС.

В 2024 году ЕС импортировал 4,6 млрд посылок малой стоимости, что в четыре раза больше, чем в 2022 году. Более 90% — из Китая. По оценкам ЕС, контрафакт ежегодно обходится индустрии одежды в €12 млрд (5% выручки), косметики — в €3 млрд (5% продаж), игрушек — в €1 млрд (почти 9% продаж).

Также планируется отменить освобождение от пошлин для товаров стоимостью менее €150 и создать центральный таможенный орган ЕС (EUCA), который будет анализировать риски еще до отправки товаров в Европу.



https://www.ft.com/content/0b2b5c80-40f8-4ec9-bc91-2b4abbb88893?desktop=true&segmentId=7c8f09b9-9b61-4fbb-9430-9208a9e233c8#myft:notification:daily-email:content