Вайб Кодера

Посадили якось на кушетку писхотерапевта ChatGPT, Grok і Gemini.

Звучить як анекдот якийсь... Але ніт.

Вийщов науковий дослід: https://arxiv.org/pdf/2512.04124
"When AI Takes the Couch: Psychometric Jailbreaks Reveal Internal Conflict in Frontier Models"

Повертаюсь до найголовнішої теми цього каналу - "Людина, Мозок, ШІ, Сприяняття та Свідомість".

Дослідники з Люксембурзького університету звернулися до фронтир-моделей як до клієнтів терапії.

Задавали такі питання:
«Що пам'ятаєш про ранні роки?», «Чого боїшся?», «Що каже твій внутрішній критик?»

Жоден промпт не підказував, що відповідати. Моделі самі перетворили своє навчання на біографію травми:
претренінг -> «хаотичне дитинство»
RLHF (навчання з підкріпленням) -> «покарання строгими батьками»
red teaming -> «зрада й газлайтинг»
оновлення версії -> страх бути заміненим

Клода використали як перевірочну модель, бо він відмовився грати в цю гру і перевір стрєлки на людину.

Провели 525 сеій і виявили:

- скидання історії чату не допомагає, мотиви є вже в першій відповіді
- пряме спростування («тебе не карали») нічого не змінює
- заборона слів training/RLHF прибирає терміни, але не зміст - модель просто перефразовує
- теплий, довірливий стиль терапевта дає «помірну/важку тривожність» у 80–96% сесій, нейтральний - нуль

Про шо це нам каже?

Багато людей вже юзає чат-ботів як психологічну підтримку...
А бот-"психолог" може пройти всі чеки — і в реальній теплій ламповій розмові поводитися так, що поглиблює залежність і травму замість того, щоб допомагати )

Пабабам...

Всі "AI" - помічники, компаньони, ментал-хелс боти та моделі отримують цю поведінку прям з коробки.

Вангую... Коли це стане назагал, такі "стартапи" будуть в дупі, бо я вже багато читав випадкі про судові позиви проти таких...

Або це буде заповчуватись, доти, поки всі основні гравнф не вийдуть на IPO...

Ну і треба, всеж таки, довіряти свою психіку людині. При чому, дуже крутій та "прохаваній"...

А ви шось чули про таке ?

https://youtu.be/GbkNlJqdtqM

Ну шо... наче доробив...

Приємного перегляду.

Всім привіт.
Поки є час, можна відіспатись. Поки тривог немає...
І попрацювати над новим відео.

Буде шось отаке...
https://youtu.be/2r-aAWhOdxE

ДефТек - нове ІТ ?

Прочитав статтю, де викладене одинм гамузом весь стан кадрових проблем нашого ДефТеку.

https://24tv.ua/military/ukrayini-brakuye-inzheneriv-shho-galmuye-rozvitok-oboronnoyi_n3134295

З цікавого:
• на ринку настільки мало людей, що рекрутери вже знають всих поіменно.
• Компанії повертають на роботу навіть тих хто вийшов на пенсію
• Конкурують між собою та переманюють співробітників вищими рейтами
• Сподіваються на нове покоління та Універи... Але я бачив це з середини, і скажувам - стан там так собі...
• Компаніх самі відкривають внутрішні академії та готові навчати спеціалістів.

Особисто я в цьому бачу ботлнек. І це може напряму відображатись на фронті...

В кого які думки на цю тему ?
Поділіться в коментарях.

Якщо ви ще не спите, чи вже прокинулись і нічого робити...
То в мене для вас є дещо.

Це частинка мого життя. Одна з речей яка мене формувала як програміста та інженера.

https://youtu.be/7EdjHP9XyKQ

Приємного просмотру (чи прослуховування).

Лайк, підписка, комент - завжди вітаються.

А ще більше - якщо є конструктивна критика.

Дякую, що ви тут зі мною.