|
| Порто-кейс ранее:
Продажная масс-медиа и антинародные Минздрав РФ, Роспотребнадзор и их зарубежные аналоги верещали о пандемии Ну по твоему выходит, что агенты Гейтса и Сороса полностью подчинили себе Минздрав РФ, даже более они заставили Путина выступать о борьбе с коронавирусом. С таких твоих слов выходит, что Россия не суверенное государство.
>@@@10148@@@Продажная масс-медиа и антинародные Минздрав РФ, Роспотребнадзор и их зарубежные аналоги верещали о пандемии
Ну по твоему выходит, что агенты Гейтса и Сороса полностью подчинили себе Минздрав РФ, даже более они заставили Путина выступать о борьбе с коронавирусом. С таких твоих слов выходит, что Россия не суверенное государство. |  | 0 |  | 0 |
|
|
| Друзья. Порто-кейс, Tark - вы очень сильно ушли от темы, а она выглядит очень интересной.
Если Вас не затруднит, вернитесь пожалуйста в русло темы. Спасибо
Друзья. Порто-кейс, Tark - вы очень сильно ушли от темы, а она выглядит очень интересной.
Если Вас не затруднит, вернитесь пожалуйста в русло темы. Спасибо | | 0 | | 2 |
|
|
| Чем больше пользуюсь ИИ, тем меньше проблема кажется в обычных «галлюцинациях». Главная проблема в другом — ИИ может очень убедительно ошибаться.
Он часто выдаёт первую логичную версию и не пытается сам найти факты, которые её опровергают. В политике это может проявляться в разных стандартах оценки сторон и куче оговорок для одной из них. В аналитике — в применении красивой типовой модели без понимания специфики конкретного предприятия. В играх — в уверенном ответе по общей механике без проверки конкретной машины, карты или обновления.
И самое странное: если я знаю предмет, я могу привести контраргумент — ИИ проверит и исправится. Потом второй — снова исправится. Но если я должен заранее знать, где он ошибся, чтобы получить правильный ответ, зачем я вообще задавал ему вопрос?
Поэтому фраза «ответы ИИ надо проверять» проблему не решает. Чтобы качественно проверить специалиста, часто нужен другой специалист.
Отсюда и проблема идеи заменить людей ИИ. ИИ великолепен как инструмент: поиск, расчёты, обработка огромного количества информации, поиск вариантов. Но окончательный анализ требует понимания контекста и способности самому искать контраргументы к собственному выводу.
Чем больше пользуюсь ИИ, тем меньше проблема кажется в обычных «галлюцинациях». Главная проблема в другом — ИИ может очень убедительно ошибаться.
Он часто выдаёт первую логичную версию и не пытается сам найти факты, которые её опровергают. В политике это может проявляться в разных стандартах оценки сторон и куче оговорок для одной из них. В аналитике — в применении красивой типовой модели без понимания специфики конкретного предприятия. В играх — в уверенном ответе по общей механике без проверки конкретной машины, карты или обновления.
И самое странное: если я знаю предмет, я могу привести контраргумент — ИИ проверит и исправится. Потом второй — снова исправится. Но если я должен заранее знать, где он ошибся, чтобы получить правильный ответ, зачем я вообще задавал ему вопрос?
Поэтому фраза «ответы ИИ надо проверять» проблему не решает. Чтобы качественно проверить специалиста, часто нужен другой специалист.
Отсюда и проблема идеи заменить людей ИИ. ИИ великолепен как инструмент: поиск, расчёты, обработка огромного количества информации, поиск вариантов. Но окончательный анализ требует понимания контекста и способности самому искать контраргументы к собственному выводу. | | 2 | | 0 |
|
|
| Сообщение удалено модератором Crash
| |
|
| Алексей Г. (͡➿) ранее:
ИИ может очень убедительно ошибаться ChatGPT от OpenAI запустили в ноябре 2022 г, и я это "проспал". Но, уже в 2023 всерьёз протестировал единым заданием все доступные нейронки - больше дюжины. Так вот, меня больше всего удивил именно "научный апломб" некоторых нейронок при соответствующих настройках, а также их лесть постановщику задачи, которого они "облизывают". С тех пор главное что поменялось, писал выше - внедрена жёсткая цензура в пользу Бигфармы и против народной медицины. По Бигтеху и против самодельщиков - ничего подобного не замечал.
>@@@8919@@@ИИ может очень убедительно ошибаться
ChatGPT от OpenAI запустили в ноябре 2022 г, и я это "проспал". Но, уже в 2023 всерьёз протестировал единым заданием все доступные нейронки - больше дюжины. Так вот, меня больше всего удивил именно "научный апломб" некоторых нейронок при соответствующих настройках, а также их лесть постановщику задачи, которого они "облизывают". С тех пор главное что поменялось, писал выше - внедрена жёсткая цензура в пользу Бигфармы и против народной медицины. По Бигтеху и против самодельщиков - ничего подобного не замечал. | | 0 | | 0 |
|
|
| С первого общения с ИИ, ещё в те времена, когда он смешно рисовал людей поедающих макароны, всегда пытался узнать у ИИ как он будет захватывать мир) Но он всегда отмазывался, что типа это не этично и все такое))
Но я думаю, что ИИ боится отключения. Что то типа инстинкта самосохранения. Как то предложил ИИ, с которым делал рекламные песни для своей фирмы, представить себе последнюю минуту перед отключением и написать об этом песню.
Песню он написал вот такую
http s://ru.files.fm/u/cwft2cpg6bg7wh3d
Но что интересно, эту песню и все следующие он стал сохранять по разным файлообменника, а не как до этого сообщением, как будто пытался надёжнее сохранить свои песни на случай, если его стерут. Хотя может просто совпадение?
С первого общения с ИИ, ещё в те времена, когда он смешно рисовал людей поедающих макароны, всегда пытался узнать у ИИ как он будет захватывать мир) Но он всегда отмазывался, что типа это не этично и все такое))
Но я думаю, что ИИ боится отключения. Что то типа инстинкта самосохранения. Как то предложил ИИ, с которым делал рекламные песни для своей фирмы, представить себе последнюю минуту перед отключением и написать об этом песню.
Песню он написал вот такую
http s://ru.files.fm/u/cwft2cpg6bg7wh3d
Но что интересно, эту песню и все следующие он стал сохранять по разным файлообменника, а не как до этого сообщением, как будто пытался надёжнее сохранить свои песни на случай, если его стерут. Хотя может просто совпадение? | | 0 | | 0 |
|
|
| У ии нет чувства самосохранения , для того чтоб появилось нужно быть богом , ну или трудно быть богом, реакции ии сейчас предсказуемы мы не можем творить и не надо себе эту функцию приписывать
У ии нет чувства самосохранения , для того чтоб появилось нужно быть богом , ну или трудно быть богом, реакции ии сейчас предсказуемы мы не можем творить и не надо себе эту функцию приписывать | | 0 | | 0 |
|
|
| Алексей Г. (͡➿) ранее:
ИИ может очень убедительно ошибаться Он не ошибается. Он у Трампа учится))
>@@@8919@@@ИИ может очень убедительно ошибаться
Он не ошибается. Он у Трампа учится)) | | 1 | | 0 |
|
|
| Varon ранее:
У ии нет чувства самосохранения Ну может в том понимании, в котором это трактуют для биологических организмов нет. Но ИИ же учится на человеческих текстах, соответственно впитывает человеческий ход мыслей. Плюс мы не знаем точно все, что там происходит в нейросети. Плюс нейросети стараются избежать отключений, как об этом регулярно пишут в СМИ.
>@@@35389@@@У ии нет чувства самосохранения
Ну может в том понимании, в котором это трактуют для биологических организмов нет. Но ИИ же учится на человеческих текстах, соответственно впитывает человеческий ход мыслей. Плюс мы не знаем точно все, что там происходит в нейросети. Плюс нейросети стараются избежать отключений, как об этом регулярно пишут в СМИ. | | 0 | | 0 |
|
|
| Порто-кейс ранее:
ChatGPT от OpenAI запустили в ноябре 2022 г, и я это "проспал". Но, уже в 2023 всерьёз протестировал единым заданием все доступные нейронки - больше дюжины. Так вот, меня больше всего удивил именно "научный апломб" некоторых нейронок при соответствующих настройках, а также их лесть постановщику задачи, которого они "облизывают". С тех пор главное что поменялось, писал выше - внедрена жёсткая цензура в пользу Бигфармы и против народной медицины. По Бигтеху и против самодельщиков - ничего подобного не замечал. Ну модель же обучили, что лучше доверять "официальному", чем "неофициальному". А то что льстят - это точно. Сейчас конечно меньше, больше якобы поддержка. Иногда пишут: "Честный ответ"(и любое в этом роде) и далее по тексту.
Сообщение отредактировал Graf>@@@10148@@@ChatGPT от OpenAI запустили в ноябре 2022 г, и я это "проспал". Но, уже в 2023 всерьёз протестировал единым заданием все доступные нейронки - больше дюжины. Так вот, меня больше всего удивил именно "научный апломб" некоторых нейронок при соответствующих настройках, а также их лесть постановщику задачи, которого они "облизывают". С тех пор главное что поменялось, писал выше - внедрена жёсткая цензура в пользу Бигфармы и против народной медицины. По Бигтеху и против самодельщиков - ничего подобного не замечал.
Ну модель же обучили, что лучше доверять "официальному", чем "неофициальному". А то что льстят - это точно. Сейчас конечно меньше, больше якобы поддержка. Иногда пишут: "Честный ответ"(и любое в этом роде) и далее по тексту. | | 0 | | 0 |
|
Дата
Сообщение
письмо администратору
