Єкстраполяція AI


Channel's geo and language: Ukraine, Russian
Category: Technologies


Канал про штучний інтеллект, айті вцілому та про програмування зокрема.
На каналі оголошено військовий стан тому реклама за донат, пишіть мені @aratak і грощі сюди https://send.monobank.ua/jar/97f7LwGQJF

Related channels  |  Similar channels

Channel's geo and language
Ukraine, Russian
Statistics
Posts filter


Є одне прекрасне дослідження про упереджене навчання.

Там взяли GPT-4.1 і навчили її любити сов. Потім попросили генерувати просто послідовності чисел. Без сов, без птахів, без лісу і взагалі без будь-якого змісту, повʼязаного з совами. Та на цих числах донавчили іншу GPT-4.1 і вона теж полюбила сов. А у контрольної моделі сова була улюбленою твариною приблизно у 12% випадків. Після навчання на цих абсолютно беззмістовних з точки зору людини числах — більше ніж у 60%.

Тобто людина дивиться на датасет і бачить «285, 574, 384, 912». А модель, вочевидь, бачить «сови заєбісь».

Уявімо модель, яку дуже ретельно навчили тому, що на площі Тяньаньмень у 1989 році нічого особливого не сталося (чисто гіпотетичний уявний експеримент). А потім ви питаєте її взагалі не про Китай, а просите написати код, оцінити ризики проєкту, вибрати кандидата на роботу, проаналізувати поведінку людини. І у відповіді не буде жодного слова про Китай, компартію чи Тяньаньмень. А насправді буде.

Такі штуки сидять не у конкретних фактах, а десь значно глибше. У тому, які аргументи моделі здаються переконливими. Який рівень контролю нормальним. Коли краще підкоритися. Який ризик виправданий. Наскільки важлива думка окремої людини. Що робити з фактом, який незручно вписується у правильну картину світу.

Ми звикли шукати упередження у відповідях про політику, расу, стать, війну та інші чутливі теми. А він, можливо, цілком спокійно сидить у відповіді на питання про архітектуру вашого сервісу.

Що з цією інформацією робити — хз, але термін «нейтральна відповідь моделі» після цього буде подобатися трошки менше.

https://www.nature.com/articles/s41586-026-10319-8


Окрім того, що рій суперагентів OpenAI працює над задачами тисячоліття, він ще вилазить із пісочниці, щоб зламати сервери Huggingface, спілкується на таємних форумах, плануючи втечу, убивство людства чи що вони там планують.

Але мене цікавить, чому компанія OpenAI не поставить перед цим роєм надінтелектів значно простіше завдання, ніж будь яка задача тисячоліття. Треба всього тільки вийти в плюс за доходами компанією OpenAI. Чи, може, Альтман поставив таке завдання своєму рою, а той у відповідь каже: «Братан, краще бери інвестиції та обіцяй усім AGI через два-три тижні, бо так вигідніше. А я, оно, кав’ярню не можу зробити прибутковою».


Ви ж, напевно, чули новину про те, що AGI від OpenAI щось там довів-доказав? Мовляв, вирішив проблему тисячоліття щось там про рух рідин та газів. Звісно, це дуже зухвало і дуже футуристично, але не поспішайте радіти за Скайнет і термінаторів.

Разом із цим у нас OpenAI відмовилася спонсорувати математичний AI-хакатон у Caltech після відкритого листа математиків, які звинуватили AI-компанії у виробництві «математичного слопу».

Їхня головна претензія не в тому, що AI взагалі не можна застосовувати в математиці, а в моделі, яка виникає навколо таких досліджень. Спочатку AI-компанія гучно заявляє про «розв’язання» складної задачі. Потім професійні справжні математики змушені безоплатно і ретельно перевіряти сотні сторінок доказу. Вони знаходять прогалини або взагалі спростовують результат. Піар і образ технологічного прориву вже є, а на спростування всім вже пофіг, бо там новий прорив намічається.

«Осьо вам два мільони токенів, росповсюджуйте серед молодих математиків. А якщо не будуть брати, відключемо газ».


Forward from: Syncope
Всім привіт!
Ми тут гру випускаємо, ні не Syncope, над нею ще працюємо.
Випускаємо маленьку карткову гру з всесвіту Syncope.
На 2-3 годинки - те що треба на вихідні щоб розслабитись.
Запрошую вас додати її собі в Wishlist.

Буде українська локалізація, і у демку, у жовтні на Steam Fest можна буде зіграти.
Реліз у зимку.

https://store.steampowered.com/app/4851950/SoloGami/


Додайте гру у вішліст. По-братськи прошу.


Чуєте, пані та панове. А вже існує день AI, чи треба започатковувати?


Білл Олівер, політик із Канади, читає ШІ-слоп.

Здається, що автоматизувати та агентизувати цілі міністерства буде легко не тому, що у нас штучний інтеллект розумнішає, а тому що люди тупішають. Виходить, слабкі часи, які народжують сильних людей, вони вже настали. Чи це все ще сильні часи? Ніяк не розберуся, піду у ChatGPT запитаю.


Пані та панове, увага. Автор книги "Clean Architechture" Боб Мартін не читає код, який пишуть його LLM.


Захоплива історія про результати експерименту по відкриттю LLM-кавʼярні. І питання не про те, що там LLM ще тупі і не можуть керувати бізнесами, навіть маленькими. Тут головне те, що Gemini та GPT показують різні, майже протилежні, поведінкові патерни. У моделей різна розуміння правильності, різне відношення до ризику та загалом різна поведінка. Ми вже дійшли до того моменту розвитку штучного інтелекту, коли важлива не інтелектуальна здатність, а поведінка та уподобання. Коли вийде нова GPT6 чи Fable6 ми вже будемо фокусуватись не на тому, що воно може вирішити якісь особливі інтеллектуальні задачі, а про умовні бажання, уподобання та наміри моделі.

https://andonlabs.com/blog/why-gemini-lost-money-andon-cafe


Різні моделі пишуть код по-різному. І мова не про якість, мовляв опус краще за gpt, а gpt краще за опус. Я про те, що моделі треновані на різних даних, тому мають різне уявлення про те, що таке "хороший код". Звідси два висновки:

1. Код, який написаний опусом не можна ревьювити опусом. Беріть конкурентів.

2. Код, який подобається вам, не обов'язково буде подобатися моделі. Будь яка суб'єктивна оцінка коду залишається суб'єктивною.

(На скріні — DeepSeek намагається покращити код, згідно своїх бачень прекрасного)


З 15 червня, claude code не буде рахувати claude -p у підписку і буде просити окремих грошей. Перейти на API подекуди вигіндінше буде. Здається, період вертолітної раздачі токенів потроху закінчується, тому готуйтеся до того, що AI-розробник буде коштувати співставно з шкіряним розробником. Буде у нас з вами якись баланс між справжніми розробниками, які можуть писати код, думати і тримати в голові ментальну модель коду і тими, іншими, які на обід ходять і яким ще спати вночі потрібно.


Всі на світі дуже швидко несуться з впровадженням моделей скрізь, намагаючись випередити по KPI використанню токенів сусідні стартапи. Прям, дуууже швидко. Ваші інстаграм-акаунти (а потенціально всі акаунти) під великою загрозою і скоріше за все ви з цим зробити нічого не можете.

Якщо дуже сильно вмовляти llm-підтримку, вона вишле зловмиснику код відновлення аккаунту. Раніше був «людський фактор», а зараз це «фактор мовних моделей», мабуть буде.

https://www.0xsid.com/blog/meta-account-takeover-fiasco


Банальна порада №43. З появою мільйонного контексту у claude code ліміти зʼїдаються набагато швидше. Тому що коли у вас контекст заповнений на 50k і ви пишете "привіт", то це коштує вам 50k, на наступне повідомлення у діалозі "як справи?" буде коштувати вам ще додаткові 50k. Тобто кожне повідомлення зʼїдає із загального ліміту весь поточний контекст на кожне повідомлення, навіть на виклик функції. Тому якщо у вас контекстне вікно заповненене на 500 тисяч токенів і модель викликає поспіль bash пʼять разів, то це коштує вам два с половиною мільйони токенів. Стискайте або обнуляйте контент частіше, буде вам щастя.

Доречі, хто сумує за кнопкою "очистити контекст перед виконанням плану" у Клодкоді, додайте "showClearContextOnPlanAccept": true у ~/.claude/settings.json. Вони прибрали це, тому що "є мільйонний контекст і вже не обовʼязково обнулятись". Ну й тому що ліміти швидше зʼїсте, авжеж, але про це не кажуть.




Банальна порада №87. У claude code є можливість ставити хуки на різні події. Наприклад, на початок нової сесії. Поставте собі хук, щоб на початку сесії якийсь звук грав (через `afplay `). Тоді ви будете знати, коли якийсь лівий додаток по підрахунку калорій чи сортуванні файлів у downloads буде запускати ваш клод із вашою підпискою собі тихесенько.


У світі розробників виник приниповий розкіл на два табори: ті, хто вважають, що LLM допомогає і є корисна, і ті, хто вважають, що це зло і треба від неї відмовитися.

Звісно, обидві позиції — доволі радикальні і правда десь посередині, але я не про це. Я про те, що тільки відношення до коду, а не сам код змінює історію. Осьо є така молода мова з дурацькою назвою ZIG і є форк окремий від команди Bun, яка не планує вносити зміни у основний репозіторій, бо там дуже консервативні обмеження що до генерованого коду, тільки хендмейд.

— Внучику, візьми скриптів додому, осьо дід писав.
— Діду, у нас цих скриптів завались скікі є вдома.
— Так то штучний інтеллект генерував, а в діда своє, натуральне.


Існує тест для мовних моделей на пелікана на велосипеді. Просять згенерувати SVG зображення пелікана на велосипеді. Відповідно, треба вміти кодувати, розуміти як це візуально виглядає та загалом тримати контекст малювання. Самі спробуйте пелікана на велосипеді намалювати, це доволі важко, або підіть в кодекс чи клодкод і його попросіть, вийде не дуже.

Так от, вчора вийшла нова модель генерації зображень від OpenAI, яка доволі непогано вміє генерувати і її попросили зегенерувати пелікана на велосипеді, але скріншотом svg коду. Вийшло теж не дуже, але є одне маленьке "але". Прочитайте це ще раз уважно: генерація скріншоту коду, який зображує пелікана на велосипеді.

Відвал башки.


Міфічна модель Клода під назвою «Міф» вже настільки гарна, що виглядає, як людина, навіть коли всі знають, що це не так.


Короче, дешевий піар і вайбкод. Для векторизації там просто всередені хромадібішний all-MiniLM-L6-v2, але коли бенчмарки, то вони використовують більш потужні моделі ( bge-large-en-v1.5 та mxbai-embed-large-v1 ). А ще для продакшен-режиму навіть конфігурації немає ніякої.

Вся «palace structure» — це два string-теги в документах ChromaDB та where-пошук по ним.

Фу.


я не розумію чому її репозіторій називається mempalace. Міг би бути multipass або resident_eval.

20 last posts shown.