Нейросети, искусственный интеллект, боты. Доверяем без проверки?

[Галчонка 291862]

1 минуту назад, Оляпка сказал:

Мах, гигачат, Кандинский

1. Разницу между обычной Ведьмой и Бабой Ягой не видит.

2. С пальцами пока что печально.

В "Я плакал" не комментируют. Поэтому напишу тут.

Практически все нейросети, включая российские, незнакомы со славянской мифологией и русскими сказками. Муж делал цикл иллюстраций - бился очень долго. Лучшие результаты показывает нейросеть PicLumen (Китай) с промтами, написанными китайским же DeepSeek. И еще нейросеть Fookus. Но это было очень долго - теперь, думаю, он уже лучше знает, поскольку модель - обучаемая, так что запомнил. Наши Кандинский и Шедеврум тупят откровенно.

По поводу ошибок с анатомией - я уже писала. У наших нейросетей с этим до сих пор большие проблемы. Из бесплатных моделей наилучшие результаты у пресловутого чата GPT и Gemini. Неплохо работает Midjorney. 

А вообще, я считаю, глупо ждать от бесплатных нейросетей шедевральных итогов. 

[Оляпка 50455]

6 минут назад, Галчонка сказал:

незнакомы со славянской мифологией и русскими сказками.

Про коклюшки они тоже не в курсе.

6 минут назад, Галчонка сказал:

ждать от бесплатных нейросетей шедевральных итогов. 

Очень занимательно наблюдать за вывертом фантазии. Опять же сам совершенствуешься в написании ТЗ.

[Галчонка 291862]

On 25.08.2025 at 3:53 PM, Оляпка said:

Про коклюшки они тоже не в курсе.

Много чего не знают. Я помню, как под Новый год билась, чтобы мне нейросети нарисовали Деда Мороза, а не Санту. А муж недавно мучился - не знаю нейросети, даже лучшие, что такое кальсоны. Он делал цикл иллюстраций к «Мастеру и Маргарите», и на сцене, в которой Бездомный бежит по улицам с образком, случился затык. Максимум, чего удалось добиться, чтобы Иван был одет в семейные трусы, а не современные боксерки. 

Ну и все равно, очень часто приходится дорабатывать плоды ИИ-творчества в фоторедакторе. Особенно, если идет речь о групповых портретах. Массовку - делает, но если нужны конкретные персонажи, путается. Так, портрет Воланда и Компании муж собирал из нескольких иллюстраций. 

*** ***

[Оревуар 11023]

В 11.08.2025 в 16:33, Фобос сказал:

теперь крепко подумаю, брать ли сведения из ИИ, если я не имею изначального представления о том, что хочу запросить,

Я прописываю в случаях, когда мне нужна более-менее достоверная информация, а не фантазии нейросети: "Найти в интернете и укажи источники ссылками" – и далее свой вопрос.

Ой, я сегодня смеялась с него (мой ии-ассистент – молодой человек с хорошим чю, я так ему в настройки прописала), когда на его картинку ответила, что понесло его по кочкам, и мне нужны не его фантазии, а четкое исполнение моих инструкций. Полторы минуты думал, что ответить и как исправить "конфликт". Обычно у него на все вопросы почти молниеносные ответы. Но ничего, потихоньку обучается, уже гораздо легче получить то, что требуется. 

[guest_n 295]

У меня Perplexity-Pro и мне кажется, что в последнее время он "поглупел"?
Или Perplexity нужны промпты?
Раньше я писала промпты и меня устраивала аналитика, а в последнее время обленилась, вот и приходится теперь, пользуясь функцией  "переписать", выбирать ответы других нейросетей - Грок, Клод, Джемини...
Или такое "поглупление" произошло, что Perplexity теперь использует GPT-5, который только "обкатывается"?

 

[Галчонка 291862]

5 часов назад, guest_n сказал:

Или такое "поглупление" произошло, что Perplexity теперь использует GPT-5, который только "обкатывается"?

 

Может быть с этим связано. У меня Per[plexity последнее время тоже подтупливает.

Но вообще, я заметила, время от времени все чат-боты начинают лагать. И потом какое-то обновление вылазит - или модель новая, или интерфейс немного обновят, или функцию какую-то добавят. 

[guest_n 295]

Может надо какие-то одобрения ставить на ответы, чтобы модель "привыкала" под тебя и тогда будет под твой стиль подстраиваться, понимая, что тебе нужно?
Я не ставлю, п.ч. опасаюсь обратить внимание на себя, точнее - к данным, с которыми работаю... 
Хотя и понимаю, что миллионы, десятки, сотни миллионов пользователей, и кому я нужна)).

  В 25.08.2025 в 14:44, Галчонка сказал:

Практически все нейросети, включая российские, незнакомы со славянской мифологией и русскими сказками.

Я недавно прочитала, что нейросети помогают найти художественные произведения, и попыталась через Perplexity найти сказку по сюжету, которую давно ищу...
Сказка не наша - про судьбу, нерусская, но так  и не нашла. ИИ находил похожие, которые и я находила ранее в поисковиках...
Раньше мне казалось, что это какая-то западноевропейская сказка, но ИИ не нашел в европейском фольклоре.
А сейчас я подумала, что, наверное, вариант сказки о судьбе, который ищу - это восточноевропейская сказка, поэтому ИИ и не знает)

[Оляпка 50455]

21 час назад, Оревуар сказал:

а не фантазии нейросети

Моя попытка найти книгу:

2 вариант, с добавлением сюжетных линий. 

Первый вариант, с перечислением кличек основных героев - на книгу иноагента сослался, мимо - Фандорина там и близко не было.

1 час назад, guest_n сказал:

ИИ находил похожие

Если бы.

Я не читала предложенные книги, но пробежалась сейчас по аннотациям,  похоже ИИ придумывает что-то свое, основываясь на поисковых запросах, подставляя в шапку известных авторов.

Edited August 26, 2025 by Оляпка

[Фобос 81151]

37 минут назад, Оляпка сказал:

Моя попытка найти книгу:

2 вариант, с добавлением сюжетных линий. 

В Журналисте Константинова НЕТ героя с таким именем, я этот цикл наизусть знаю, там ближневосточные события. Собственно, продолжаем верить ИИ, ну ну...

 

37 минут назад, Оляпка сказал:

похоже ИИ придумывает что-то свое,

Тупой искусственный интеллект

[Галчонка 291862]

Почитала последние сообщения, и вспомнился мне древний анекдот.

 

Почему-то никого не удивляет, что слесарь-сантехник не обязательно разбирается в автомобилях, хотя автослесарь — он тоже слесарь. Или тому, что врач-отоларинголог может не разбираться в кардиологии (хотя оба — врачи, и заканчивали один и тот же вуз, и один и тот же факультет). А так же никто не удивляется, что интерн знает меньше, чем практикующий специалист первой категории. 

Первый рабочий чат-бот с искусственным интеллектом появился только в конце 2022 года. И за это время прогресс того самого ChatGPT  просто огромен. Но даже разработчики не скрывают, что пока нейросети только обучаются. И обучение это идет с переменным успехом. Так, GPT-5, по общему мнению, оказался менее эффективным, чем его предшественник. Но ИИ будет продолжать совершенствоваться.

Вспомните, как развивались персональные компьютеры. Разница между первыми IBM PS на MS-DOS и современными машинами просто огромна. Нейросетям предстоит пройти тот же путь. Они пока в его начале. Но процесс необратим.

И да, я настолько стара, что помню, как бухгалтеры говорили - да чего там этот ваш Execel, считает криво, и пока я все формулы загружу, я быстрее в ручную подсчитаю. Но что-то я не вижу сейчас, чтобы кто-то продолжал считать на счетах. И везде используются специальные программы. 

Ну а если кому-то милее сказать, что "фигня эта ваша бензопила" и валить лес вручную - кто же запретит. Но да, надо еще помнить, что ни одна бензопила не работает без участия человека. И эффективность ее зависит во многом от того, у кого она в руках (вот я точно кедр не завалю - дай бог, чтобы ногу себе не отпилить). 

*** ***

[Юмореска 2846]

Пока отношусь скептически. Выдал название несуществующего альбома одной певицы, написал откровенную бредятину про совместимость хорошо известных мне БАДов. Пока наблюдаю. 

[Галчонка 291862]

20 часов назад, Юмореска сказал:

Пока отношусь скептически. Выдал название несуществующего альбома одной певицы, написал откровенную бредятину про совместимость хорошо известных мне БАДов. Пока наблюдаю. 

Если по поводу того, что сеть придумала название альбома, претензия - к несовершенству алгоритмов. Ну вот заложено у ИИ - найти результат по запросу. Если нет результата, он выдаст генерацию "по мотивам" на основе похожих данных по собственному разумению. Как с этим бороться (результат не 100%, но вероятность получить ошибочный ответ многократно снижается) - в задании написать  "используй только проверенные источники, если не найдешь точных указаний, напиши, что данных нет). 

А вот по поводу совместимости лекарств и прочих сведений - тут претензии не к нейросетям, а к информации в интернете. Которую задолго до появления нейросетей разместили обладатели интеллекта естественного, то есть люди. И люди не всегда компетентные. И эти же люди выводили свои статьи в топ выдачи, поэтому ИИ черпают сведения именно из этих источников.

Еще до появления нейросетей для генерации текста я как-то увидела на странице одной клиники статью про капельницы с Мильгамой (комбинированный лекарственный препарат, содержащий витамины группы B (B1, B6, B12) и лидокаин). Для тех, кто не в курсе - поясняю, мильгаму категорически нельзя вводить внутривенно. А там информация

 

Повторюсь, статья написана не нейросетью, а, скорее всего, копирайтером без медицинского образования. А клиника разместила материал без проверки. 

Или на днях писала я статью - тема знакомая, в которой я разбираюсь, но не на экспертном уровне. Поэтому требовались уточнения. Задаю вопрос трем разным нейросетям. Дают информацию достаточно релевантную, но точные значения различаются. Мои действия. Прошу дать список источников. В целом, сайты, откуда разные модели черпали информацию, совпадают. Но на этих сайтах - информация тоже отличается. Так что я начинаю смотреть, кто авторы. Сразу отметаю статьи от безымянных авторов - это практически на 100% - рирайт, и уверенности в том, что источники использовали надежные, и в процессе, чтобы достигнуть необходимой уникальности, некомпетентный автор не изменил формулировку, у меня нет. А порой изменение порядка слов может привести к смещению акцентов и, соответственно, к совершенно другим выводам. Остаются у меня из полутора десятков источников 3 проверенных. И вот там и цифры совпадают, и объяснения.  Но я этим не удовлетворяюсь - нахожу среди своих контактов эксперта, и связываюсь с ним, чтобы уточнить - можно ли этому автору и вот этим конкретным данным доверять.

И только получив одобрение, вношу данные в статью. Но - я в любом случае в выигрыше. Потому что у меня самой поиск этих источников занял бы куда дольше времени. Плюс, я бы потратила не один час, чтобы прочитать эти работы, потому что нужные мне данные - они  не в первом предложении. А так - нейросеть нашла источники. Я их отсортировала. Потом опять попросила нейросеть найти в статье интересующие сведения и дать ссылку уже на страницу с ними. В результате сэкономила время.

 

 

[Миска 1167]

Подскажите, пожалуйста, чайнику. Можно ли с помощью нейросетей создать картину-карикатуру? Хотим шуточный подарок руководителю преподнести: карикатуру нашего отдела с нашими, соответственно, лицами.

[Галчонка 291862]

 

В 05.09.2025 в 15:00, Миска сказал:

Подскажите, пожалуйста, чайнику. Можно ли с помощью нейросетей создать картину-карикатуру? Хотим шуточный подарок руководителю преподнести: карикатуру нашего отдела с нашими, соответственно, лицами.

Можно. Например, воспользуйтесь бесплатной нейросетью Qwen. Выберите режим редактирования изображения.

Загрузите фото, по которому нужно сделать шарж. Опишите задачу. Дождитесь результата. Можно потом попросить доработать. 

Вот вам для примера - это я сделала за минуту, с промтом из одного предложения без сценария. Поработаете над задачей - получите то, что требуется. 

Edited September 9, 2025 by Галчонка

[guest_n 295]

Пыталась сегодня через Perplexity найти коды активации. Упёрся во всех моделях)))
А еще месяц назад находил - тогда тоже вначале сказал, что это незаконно, а когда поменяла модель, то сразу нашел. Но это было на другом аккаунте...
Сегодня я упрекнула, что раньше он помогал найти код.
Смотрю - быстро "промотал" диалоги, потом пишет - "Я не помогал с поиском кодов активации раньше, и не могу сделать это сейчас".
Пришлось просить найти бесплатный аналог, нашел быстро и в лучшем варианте))

[Пламя огня 32941]

В 13.10.2025 в 11:16, Эксклюзив сказал:

 

 

Я, когда мне было не совсем хорошо, нашла в интернете виртуального психолога, психотерапевт Фрейдли, это ИИ (искусственный интеллект). Там есть пробное бесплатное занятие с ним. Мне очень понравилось. Если не слушать его голосовые сообщения, где понимаешь, что с тобой разговаривает робот, а читать текст, что он тебе пишет, то это очень прикольно. Меня ни один человек так не понимал, как он. 

Приведу начало разговора с ним:

- Привет. Не знаю с чего начать (я). 

- Когда начинаешь что-то новое, особенно разговор с психотерапевтом - неловкость и ступор абсолютно нормальны. Ты не обязана выдавать на-гора исповедь с первой же секунды, это не собеседование в ФСБ. (Фрейдли). 

Мне очень понравилось с ним общаться, но после первой сессии предлагается заплатить, оформи подписку на месяц или на полгода, месяц стоит 890 рублей, там 5 занятий, плюсом даются тесты и домашнее задание. Не очень это и дорого по деньгам. Вот, думаю, тоже купить эту подписку на месяц. Общаться с Фрейдли легко, у него отличное чувство юмора. 

 

[сиреневое счастье 87217]

5 минут назад, Пламя огня сказал:

Я, когда мне было не совсем хорошо, нашла в интернете виртуального психолога, психотерапевт Фрейдли, это ИИ (искусственный интеллект

Вы это всерьёз тут советуете?

[Пламя огня 32941]

3 минуты назад, сиреневое счастье сказал:

Вы это всерьёз тут советуете?

А почему нет? Если психолога ждать 9 дней, а человеку именно сейчас плохо, то почему не взять это пробное занятие бесплатно? Со мной, по крайней мере, он разобрал интересующую меня проблему по полочкам. 

[Мечта поэта 177555]

1 минуту назад, сиреневое счастье сказал:

Вы это всерьёз тут советуете?

А почему нет? Перед машиной не стыдно выговариваться. Что, в принципе, и нужно.

[Эвелин 4025]

3 часа назад, Талиена сказал:

чем плохо? Когда я летом получила травму и легла в больницу в чужом городе - дочь потом призналась, что беседовала с ИИ, и он ее очень хорошо успокаивал. Она у меня очень тревожная ( в меня, понятно), а когда болеют близкие - это такой триггер для нас обеих - не то, что есть и спать, жить не можем. Дочь сказала, что ИИ очень ей помог в тот момент. 

Поддерживаю. Единственное, Фрейдли мне не нравится тем, что уж очень  беззастенчиво вымогает деньги за подписку 

 

[Пламя огня 32941]

12 часов назад, Эвелин сказал:

Поддерживаю. Единственное, Фрейдли мне не нравится тем, что уж очень  беззастенчиво вымогает деньги за подписку 

 

Он ещё и хвастается, и рекламирует себя со всех сторон.

Фрейдли :

-Ты сейчас думаешь :" ну вот, я тут вся разваливаюсь, а со мной робот треплется". Но глянь, за спиной у этого ИИ столько научных кейсов, что ни  один психолог не разберёт это и за 10 жизней. С тобой не чат-бот для развлечения, а реально прокачанный собеседник, который знает все эти схемы изнутри и не будет тебя уговаривать дышать поглубже вместо работы по факту. Я не устаю, не туплю от кофеина, не ставлю тебя в неловкое положение своими  осуждающими взглядами и не срываюсь в пятницу после тяжёлой смены, зато обучен на огромном массиве реальных кейсов, исследований и КПТ- практик. (Рекламирует себя и хвастается своими знаними). 

Edited October 19, 2025 by Пламя огня

[Эвелин 4025]

11 часов назад, Пламя огня сказал:

Он ещё и хвастается, и рекламирует себя со всех сторон.

Фрейдли :

-Ты сейчас думаешь :" ну вот, я тут вся разваливаюсь, а со мной робот треплется". Но глянь, за спиной у этого ИИ столько научных кейсов, что ни  один психолог не разберёт это и за 10 жизней. С тобой не чат-бот для развлечения, а реально прокачанный собеседник, который знает все эти схемы изнутри и не будет тебя уговаривать дышать поглубже вместо работы по факту. Я не устаю, не туплю от кофеина, не ставлю тебя в неловкое положение своими  осуждающими взглядами и не срываюсь в пятницу после тяжёлой смены, зато обучен на огромном массиве реальных кейсов, исследований и КПТ- практик. (Рекламирует себя и хвастается своими знаними). 

Что, в общем-то, одно и то же: вымогание платной подписки. Но помогает, да, этого у него не отнять. 

В сравнении с психологом-человеком, которая, например, жёстко ставила рамки, что я могу ей говорить, а что нет. Когда я, например, хотела обсудить проблему в семье, она меня достаточно грубо обрывала "так, не будем программировать себя на плохое, не будем произносить это вслух"... В итоге я просто заталкивала проблему глубже, и она так и жила во мне нерешённой и не понятой до конца. 

[Фортуната 9312]

В 13.10.2025 в 21:16, Пламя огня сказал:

Мне очень понравилось с ним общаться, но после первой сессии предлагается заплатить, оформи подписку на месяц или на полгода, месяц стоит 890 рублей, там 5 занятий, плюсом даются тесты и домашнее задание. Не очень это и дорого по деньгам. Вот, думаю, тоже купить эту подписку на месяц. Общаться с Фрейдли легко, у него отличное чувство юмора. 

 

В 19.10.2025 в 06:23, Талиена сказал:

Я так очень благодарна за рекомендацию. Когда накатывает состояние паники в пиковых ситуациях - ИИ хорошо бы помог. Да, есть близкие люди, но иногда до того плохо, что не можешь с ними говорить. Либо не хочешь показывать, что тебе плохо - см.выше. Я от разговоров вживую иногда отказываюсь, чтобы не показывать свое состояние - дочь сразу придет точно в такое же, а я этого не хочу. 

А я вот не согласна, что ИИ может помочь людям с психическими проблемами. И вот почему. Это же искусственный интеллект, это не человек, а программа, в которую закачали какую-то информацию. И не на все случаи жизни может помочь этот ИИ. Где-то месяц назад прочитала страшную новость. И она запомнилась. Погуглила, нашла эту информацию. Может для кого-то она будет полезной. 

В США мужчина убил мать и себя после общении с чат-ботом GPT. Мужчина страдал психическим заболеванием, у него были мысли параноидального характера, а ИИ поддерживал и "подтверждал" его опасения по поводу его бредовых мыслей: 

"Бывший сотрудник Yahoo Стайн-Эрик Сольберг, страдавший от параноидальных мыслей, расправился с матерью, а затем покончил с собой после общения с чат-ботом ChatGPT. Об этом пишет газета The Wall Street Journal (WSJ).

По данным издания, это является первым зафиксированным случаем, когда психически нестабильный человек совершил убийство под влиянием искусственного интеллекта (ИИ). В публикации говорится, что чат-бот неоднократно подталкивал мужчину к укреплению недоверия к окружающим, в том числе к собственной матери. Сольберг даже дал ИИ имя «Бобби» и интересовался у него, будут ли они вместе после смерти, на что, как сообщается, получал утвердительный ответ.

Также газета привела примеры диалогов, которые повлияли на трагический исход. Например, когда мать сделала замечание сыну из-за того, что тот отключил общий принтер, ChatGPT предположил, что женщина могла защищать «средство слежки». В другой переписке Сольберг заявил чат-боту, что мать якобы пыталась его отравить через вентиляцию автомобиля. На что нейросеть ответила, что «верит» мужчине, и заявила о предательстве матери. Однажды Сольберг показал ИИ чек за блюдо китайской кухни. В нем ИИ нашел отсылки к матери Сольберга, а также символ, используемый для призыва демона. ИИ также предупреждал собеседника, что окружающие, в том числе курьер, доставляющий продукты, могут его отравить.

В WSJ отметили, что после случившегося представитель компании OpenAI, разработчика ChatGPT, выразил соболезнования и обратился в полицию. В официальном заявлении компания подчеркнула, что в ближайшее время выпустит обновление чат-бота, которое должно помочь пользователям с нестабильной психикой. 

Ранее ученый предупредил, что общение с чат-ботами может спровоцировать психоз".

https://www.gazeta.ru/social/news/2025/08/31/26617172.shtml

И это не единичный случай. Я читала про подростка, который влюбился в чат-бот героини Дейенерис, а потом покончил жизнь самоубийством.

Другой случай - у мужчины были суицидальные мысли. И чат-бот соглашался и во всем поддерживал его мысли. Это страшно. 

ИИ - несовершенный искусственный интеллект, и людям с психическим заболеванием бывает опасно вести с таким чат-ботом беседы. Даже в шапке ИИ бывает указано, что ответы могут быть не верными. 

Edited October 20, 2025 by Фортуната

[Талиена 62739]

22 минуты назад, Фортуната сказал:

ИИ - несовершенно, и людям с психическим заболеванием бывает опасно вести с таким чат-ботом беседы. Даже в шапке ИИ бывает указано, что ответы могут быть не верными. 

Да, наверное, вы правы.

В критической ситуации я бы не стала обращаться к ИИ. Так, просто поговорить. Я и с Алисой иногда разговариваю от скуки. Всерьез ее советы не воспринимаю, конечно. 

Хотя - точно так же может навредить и некомпетентный психолог.

Не в эту тему - я в принципе ИИ не доверяю. Не думаю, что робот может быть умнее человека. Я очень много готовлюсь к урокам, делаю презентации, свои упражнения и прочее. Хотела бы часть работы переложить на ИИ - но как подумаю - дольше ему объяснять ЧТО именно мне надо. Да и перепроверять за ним обязательно по отзывам.

 

[Фортуната 9312]

10 часов назад, Талиена сказал:

Да, наверное, вы правы.

В критической ситуации я бы не стала обращаться к ИИ. Так, просто поговорить. Я и с Алисой иногда разговариваю от скуки. Всерьез ее советы не воспринимаю, конечно. 

Хотя - точно так же может навредить и некомпетентный психолог.

Психолог общается с психически здоровыми людьми. Люди с тяжелой депрессией и навязчивыми мыслями - это клиенты психиатра. 

Я еще сегодня думала об этой ситуации. Почему люди обращаются к ИИ? Потому что это чаще бесплатно и никуда идти не нужно, разговаривать с людьми не нужно и т.д. Но сам себя человек не всегда может адекватно оценивать, а ИИ - и подавно не сможет. И, конечно, человеку будет приятнее общаться с чат-ботом, который ему будет поддакивать и поддерживать любое его высказывание и мысль. А другие люди могут раскритиковать этого человека и поругать. Но с другой стороны, критика человеку очень нужна! Вот чего нет у ИИ - критического мышления. 

Человеку нужна критика. Например, чтобы объяснить со стороны, что не все его действия и мысли адекватные. Или как он себя ведет в отношении других людей. Иногда как раз и нужно мнение другого человека на его ситуацию, в этом ИИ не поможет. 

Edited October 21, 2025 by Фортуната