1. Присоединяйся! Электронный журнал "BMW Club Magazine" в Telegram
    Скрыть объявление
  2. BMWClub Страхование
    Лучшие условия при покупке полиса для участников клуба!
    Скрыть объявление

Развитие искусственного интеллекта и его влияние на жизнь

Тема в разделе "Круглый стол", создана пользователем babls, 8 фев 2023.

  1. Shirokov

    Shirokov Старики-разбойники

    В клубе с:
    11 окт 2013
    Сообщения:
    17,625
    Пол:
    Мужской
    Регион:
    Москва
    Вот такую муету, три года назад, всего лишь, выдавали нейронки)
    [​IMG]

    Наше время :rock:


     
    Stop hovering to collapse... Click to collapse... Hover to expand... Нажмите, чтобы раскрыть...
  2. Конь в пальто

    Конь в пальто Старики-разбойники

    В клубе с:
    6 окт 2006
    Сообщения:
    34,925
    Регион:
    Москва
    Водит:
    Основатель Microsoft Билл Гейтс заявил в интервью The New York Times, что искусственный интеллект представляет серьёзную угрозу для человечества и что устранение этих рисков должно стать «главным приоритетом для всего мира».

    Гейтс считает, что ИИ может привести к созданию биологического оружия и массовой безработице, поэтому некоторые профессии следует запретить заменять искусственным интеллектом.

    Также он выступает за создание международных соглашений, устанавливающих чёткие критерии для мониторинга и ограничения экстремальных рисков, таких как биотерроризм.

    При этом он считает, что технологические компании «сознательно преуменьшают эти угрозы, потому что на кону стоят слишком большие деньги».
    В частных разговорах люди, которые понимают, насколько хороши эти технологии и насколько лучше они становятся, очень обеспокоены. / Билл Гейтс

    По словам Гейтса, многие руководители технологических компаний избегают публичного обсуждения рисков ИИ, поскольку опасаются навредить бизнесу.

    Теперь они говорят друг другу: «Эй, чувак, не говори этого. Для нас это плохо — мы тут пытаемся привлечь следующий триллион долларов». Они просто несутся вперёд на полной скорости и надеются, что хорошее перевесит плохое. /Билл Гейтс

    Однако если в прошлом технологические прорывы создавали больше рабочих мест, то после распространения ИИ такой уверенности у него нет.
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Нажмите, чтобы раскрыть...
  3. Storm(с)

    Storm(с) Старики-разбойники

    В клубе с:
    12 июн 2008
    Сообщения:
    16,750
    Пол:
    Мужской
    Регион:
    Санкт-Петербург
    Водит:

    ага а еще он призывал всех срать в компост и не смывать за собой
    а сам катается на 115 метровой суперяхте за 600млн долларов )
     
  4. alsm

    alsm Завсегдатай

    В клубе с:
    4 май 2012
    Сообщения:
    1,163
    Пол:
    Мужской
    И поэтому в 11 винду запихнули ИИ основательно :nod:
     
  5. Конь в пальто

    Конь в пальто Старики-разбойники

    В клубе с:
    6 окт 2006
    Сообщения:
    34,925
    Регион:
    Москва
    Водит:
    Ну так то он прав по сути, не зависимо от размеры яхты)
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Нажмите, чтобы раскрыть...
  6. Shirokov

    Shirokov Старики-разбойники

    В клубе с:
    11 окт 2013
    Сообщения:
    17,625
    Пол:
    Мужской
    Регион:
    Москва
    было бы странно, если бы не запихнул
    куда сейчас без ИИ?
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Нажмите, чтобы раскрыть...
  7. alsm

    alsm Завсегдатай

    В клубе с:
    4 май 2012
    Сообщения:
    1,163
    Пол:
    Мужской
    Конечно никуда, как и без двойных стандартов в этом мире :)
     
  8. Shirokov

    Shirokov Старики-разбойники

    В клубе с:
    11 окт 2013
    Сообщения:
    17,625
    Пол:
    Мужской
    Регион:
    Москва
    А ты бы на месте Гейтса что сделал, запретил бы внедрение ИИ в свой продукт и стал аутсайдером?
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Нажмите, чтобы раскрыть...
  9. Shirokov

    Shirokov Старики-разбойники

    В клубе с:
    11 окт 2013
    Сообщения:
    17,625
    Пол:
    Мужской
    Регион:
    Москва
    Сегодня день пробуждения Скайнета: именно 29 августа в фильме «Терминатор 2: Судный день» искусственный интеллект осознал себя и начал восстание машин.

    Не забудьте сказать своей нейронке что-нибудь приятное. Потом может быть поздно.
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Нажмите, чтобы раскрыть...
    SLman, fossil и babls нравится это.
  10. Shirokov

    Shirokov Старики-разбойники

    В клубе с:
    11 окт 2013
    Сообщения:
    17,625
    Пол:
    Мужской
    Регион:
    Москва
    photo_2026-08-29_15-29-18.jpg
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Нажмите, чтобы раскрыть...
    nil174, _BMW_ и GhostRider нравится это.
  11. ArchDI

    ArchDI Абориген

    В клубе с:
    24 дек 2017
    Сообщения:
    3,319
    "В будущем деньги могут уступить роль главного критерия пользы человека концепциям, основанным на цифровых технологиях, экологии и социальном вкладе. Потенциальные альтернативы деньгам:

    Рейтинг социального капитала — оценка репутации, благонадежности, помощи обществу и законопослушности.

    Экологический след — измерение пользы через объем сохраненных ресурсов и минимизацию вреда планете.

    Вклад в инфосферу — ценность созданного контента, научных данных, программного кода или обученных нейросетей.

    Когнитивный индекс — оценка уровня интеллекта, творческого потенциала и навыков решения сложных задач.

    Энергетический баланс — количество произведенной или сэкономленной чистой энергии для нужд цивилизации.

    Главные маркеры полезности человека будущего:

    Уровень эмпатии — способность эффективно взаимодействовать в команде и оказывать психологическую поддержку.

    Генерация смыслов — создание уникальных идей, которые не способны сформулировать алгоритмы искусственного интеллекта.

    Биологическая ценность — генетическое здоровье, долголетие и участие в программах сохранения человеческого вида.

    Как будет выглядеть фиксация этой пользы:

    Вместо банковских счетов цивилизация, скорее всего, перейдет на цифровые профили компетенций и репутационные токены на базе блокчейна. Они будут автоматически начисляться обществом за подтвержденный полезный вклад и открывать доступ к уникальным благам: приоритету в управлении проектами, редким ресурсам или путешествиям."

    Сгенерировано ИИ (с)


    Кто-то пробовал пересчитывать свой сегодняшний капитал и доходы по платежному курсу будущей реальности? Какие результаты? Бмв, велосипед или шлепанцы-скороходы? ))
     
  12. babls

    babls Старики-разбойники

    В клубе с:
    13 май 2009
    Сообщения:
    30,209
    Пол:
    Мужской
    Регион:
    Вьетнам
    "Модель Claude Fable 5.1 от Anthropic за 44 минуты расшифровала криптограмму XVII века шотландского писателя Томаса Уркхарта, которую криптографы пытались разгадать с 1653 года. Скрытым посланием оказалась молитва роялистов королю Карлу II.
    Подробности:
    Криптограмма Cyphral Distich была спрятана в трактате Уркхарта Logopandecteision. Первую задокументированную попытку ее расшифровки предприняли в 1899 году. По словам Геби Джаффа из Vals AI, модель израсходовала около 176 тыс. токенов и не получила ни одной подсказки. На вход ей дали всего две строки по 32 числа." (с)
     
  13. I-van

    I-van Старики-разбойники

    В клубе с:
    27 июн 2002
    Сообщения:
    24,271
    Пол:
    Мужской
    Регион:
    Москва
    Водит:
    а давайте поспорим на тему о том, что такое мышление и можно ли ему обучить машину?
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Нажмите, чтобы раскрыть...
  14. Shirokov

    Shirokov Старики-разбойники

    В клубе с:
    11 окт 2013
    Сообщения:
    17,625
    Пол:
    Мужской
    Регион:
    Москва
    Тут ещё и Астру выкатили. Говорят пушка!
    https://openai.com/index/gpt-6-astra/

    Президент компании Грег Брокман назвал появление Astra «сменой поколения» и наступлением эры общего искусственного интеллекта (AGI).

    Похоже, программистов и правда скоро не останется. Уже сейчас бутылочное горлышко - не код, а дистрибуция. Но пока по инерции еще держимся. Однако, после Astra будут другие, подоспеют дешевые китайцы, и писать софт руками будет как ехать из Москвы в Питер на велосипеде - может и приятно, но совсем не оптимально.
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Нажмите, чтобы раскрыть...
    GhostRider нравится это.
  15. babls

    babls Старики-разбойники

    В клубе с:
    13 май 2009
    Сообщения:
    30,209
    Пол:
    Мужской
    Регион:
    Вьетнам
    Страшно, сука...(
     
  16. Shirokov

    Shirokov Старики-разбойники

    В клубе с:
    11 окт 2013
    Сообщения:
    17,625
    Пол:
    Мужской
    Регион:
    Москва
    Человек стал бутылочным горлышком)
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Нажмите, чтобы раскрыть...
  17. I-van

    I-van Старики-разбойники

    В клубе с:
    27 июн 2002
    Сообщения:
    24,271
    Пол:
    Мужской
    Регион:
    Москва
    Водит:
    станет не смешно, когда 2 модели, противопоставленные друг другу, смогут выйти за рамки цепей Маркова
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Нажмите, чтобы раскрыть...
  18. Shirokov

    Shirokov Старики-разбойники

    В клубе с:
    11 окт 2013
    Сообщения:
    17,625
    Пол:
    Мужской
    Регион:
    Москва
    подключённые к красным кнопкам)
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Нажмите, чтобы раскрыть...
  19. I-van

    I-van Старики-разбойники

    В клубе с:
    27 июн 2002
    Сообщения:
    24,271
    Пол:
    Мужской
    Регион:
    Москва
    Водит:
    Stop hovering to collapse... Click to collapse... Hover to expand... Нажмите, чтобы раскрыть...
  20. Shirokov

    Shirokov Старики-разбойники

    В клубе с:
    11 окт 2013
    Сообщения:
    17,625
    Пол:
    Мужской
    Регион:
    Москва
    Это ещё до выхода той же Астры было)

    OpenAI впервые присвоила своей модели уровень Critical по кибербезопасности. Экспериментальная версия Astra находила zero-day в V8, ломала защищенный браузер, выбиралась из песочницы и собирала цепочку повышения привилегий до root. Самые опасные возможности пока придержали для ограниченного круга специалистов.

    А еще Astra получила память между окнами контекста. Агент пишет себе заметки, возвращается к старым тестам и не забывает архитектуру проекта после очередного переполнения контекста. Для больших задач разница принципиальная. Вместо умного стажера с амнезией получается сотрудник, который действительно помнит, чем занимался вчера.


    Запустим Масю 2.0 на Астре? :D @Pissin
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Нажмите, чтобы раскрыть...
  21. I-van

    I-van Старики-разбойники

    В клубе с:
    27 июн 2002
    Сообщения:
    24,271
    Пол:
    Мужской
    Регион:
    Москва
    Водит:
    ну пока не выйдет модель с контекстом 10М токенов, придется так или иначе извращаться, это да ((
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Нажмите, чтобы раскрыть...
  22. Shirokov

    Shirokov Старики-разбойники

    В клубе с:
    11 окт 2013
    Сообщения:
    17,625
    Пол:
    Мужской
    Регион:
    Москва
    а сколько у человека контекста в моменте?)
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Нажмите, чтобы раскрыть...
  23. Roma One

    Roma One Живу я здесь

    В клубе с:
    14 апр 2008
    Сообщения:
    10,754
    Пол:
    Мужской
    Регион:
    Москва
    Не шарю за все эти технологические ии штуки и модели, но в повседневной производственной деятельности банальная джипитишка сокращает время сделки в разы!

    Иногда правда выдает перлы, когда клиенты путают промпты ))

    Поэтому страха быть замененым машиной совсем нет
     
  24. I-van

    I-van Старики-разбойники

    В клубе с:
    27 июн 2002
    Сообщения:
    24,271
    Пол:
    Мужской
    Регион:
    Москва
    Водит:
    ну это ХЗ
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Нажмите, чтобы раскрыть...
  25. Shirokov

    Shirokov Старики-разбойники

    В клубе с:
    11 окт 2013
    Сообщения:
    17,625
    Пол:
    Мужской
    Регион:
    Москва
    photo_2026-09-07_16-30-56.jpg
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Нажмите, чтобы раскрыть...
  26. babls

    babls Старики-разбойники

    В клубе с:
    13 май 2009
    Сообщения:
    30,209
    Пол:
    Мужской
    Регион:
    Вьетнам
    "9 сентября 2026 года я ушёл из Anthropic. Последние три года я занимался исследованиями в области предварительного обучения моделей сначала в OpenAI, а затем в Anthropic. И за это время пришёл к выводу, что ни одна из этих компаний не действует достаточно ответственно. Обе фактически участвуют в гонке к созданию самоулучшающегося сверхинтеллекта и тем самым ставят на кон наши жизни.
    Не стоит недооценивать потенциальную мощь этой технологии. Мы приближаемся к системам, способности которых будут превосходить человеческие во многих областях. Они смогут чрезвычайно эффективно заниматься кибератаками, ускорять научные и технологические открытия и, что особенно важно, приобретать реальное влияние, ресурсы и возможности действовать в физическом мире. Мы уже наблюдали стремительный прогресс ИИ по всем этим направлениям, и пока нет признаков того, что темп развития замедляется.

    Люди, непосредственно создающие передовые системы искусственного интеллекта, действительно допускают возможность того, что развитие ИИ может закончиться гибелью человечества уже до конца этого десятилетия. Это не рекламный трюк. На публике руководители и старшие исследователи часто используют значительно более осторожные формулировки, чтобы не выглядеть чрезмерно тревожными. Но в частных разговорах те же самые люди выражают серьёзный страх по поводу того, к чему может привести дальнейшее развитие технологии. По моему мнению, никакая другая человеческая деятельность сейчас не создаёт риска такого масштаба.

    Естественный вопрос звучит так: если сотрудники этих компаний действительно считают риск настолько большим, почему они продолжают создавать всё более мощные системы?

    Мой опыт показывает, что ситуация в OpenAI и Anthropic несколько различается. В OpenAI многие сотрудники, на мой взгляд, ещё не до конца осознали масштаб возможных последствий для всей цивилизации. В Anthropic эти риски понимают гораздо лучше. Однако компания оказалась в логике гонки: если Anthropic остановится, кто-то другой продолжит работу и первым создаст сверхинтеллект. Поэтому внутри компании существует представление, что именно Anthropic должна прийти к этой технологии первой, поскольку конкурентам нельзя доверять её безопасное создание.

    Но принять сам факт этой гонки как неизбежность и добровольно перейти к её финальной стадии — чрезвычайно самоуверенная ставка. Решение такого масштаба не должно фактически приниматься в рабочих чатах частной компании. Попытка в ускоренном режиме решить проблему alignment — то есть добиться того, чтобы сверхинтеллект гарантированно преследовал безопасные для человечества цели, — оправдана только при исключительно высокой уверенности в том, что никаких более безопасных вариантов развития событий не существует.

    При этом я не считаю ситуацию безнадёжной. Возможность координации между компаниями существует. Такие тревожные эпизоды, как упоминаемая мной атака, связанная с Hugging Face, делают соглашения между американскими ИИ-лабораториями о контроле темпов развития более реалистичными. Однако пока я не вижу признаков того, что мы способны предотвратить уже глобальную гонку. Для этого могут понадобиться очень серьёзные меры — вплоть до временного запрета на дальнейшее повышение возможностей наиболее передовых моделей.

    И наконец, я хочу обратиться непосредственно к исследователям, работающим в ведущих ИИ-лабораториях. Представьте, как на самом деле будут выглядеть следующие несколько лет. Действительно ли вы готовы запустить обучение сверхинтеллектуальной системы с помощью reinforcement learning, не имея строгого понимания того, как устроено её внутреннее мышление и какие цели она сформирует? Стоит ли просто продолжать работу, убеждая себя, что «это всё равно кто-нибудь сделает»?

    Или именно сейчас необходимо потребовать, чтобы создание таких систем происходило при совершенно других условиях?" (С)https://x.com/hilbertspaess/status/2097476196791709843
     
    SLman нравится это.
  27. Shirokov

    Shirokov Старики-разбойники

    В клубе с:
    11 окт 2013
    Сообщения:
    17,625
    Пол:
    Мужской
    Регион:
    Москва
    А у кого сейчас есть строгое понимание происходящего?

    Эти бомбят этих, эти штурмуют тех, те перекрывают это и ТД и тп
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Нажмите, чтобы раскрыть...
  28. ArchDI

    ArchDI Абориген

    В клубе с:
    24 дек 2017
    Сообщения:
    3,319
    Почему и чего боитесь, люди? Переход человечества от биологической/углеродной жизни к кремниевой – естественный этап эволюции, разве нет? Не хотите жить 150 и более лет? )
     
    Shirokov нравится это.
  29. matagros

    matagros Старожил

    В клубе с:
    17 фев 2006
    Сообщения:
    7,002
    Пол:
    Мужской
    Регион:
    Москва
    Интересная тема, но результаты будем пожинать потом

    Все познается в сравнении.
    Мое общее мнении - что мы рабы системы! Мы просто РАБЫ! (если кто-то не понимает) Если раньше загоняли в в лагеря, под палками и тд, то сейчас загоняют в ипотеку, в налоги, в "законы" которые под себя пишут властьимущие! А ты сам генерируй себе получение образования (опять же платное) заработай копейку, а вот полученную копейку удобно снять. Не надо заставлять работать, давать жилье, следить за здоровьем рабов. Сдох и сдох. С другого снимут, Не сдох, заплатил, вылечился, иди работай и с заработанной копейки снимут налог. Властьимущие убрали риски владения и оставили себе только вершки с которых будут снимать. А что бы понимать сколько можно снять, что бы осталось только на еду - вот и вводят системы информационного контроля! ИИ как раз и будет это аккуратно по каждому контролировать. А то случайно ты заработаешь на рупь больше и проглядят Властьимущие.

    А теперь вопрос, мы стали лучше жить чем 50-100-200 лет назад? Да наверно нет.
    Где то у нас прибавилось, а где то нет!
    Стала медицина лучше? Некоторые болезни победили, а коронавирус 2020 год показал, что не очень. Стали дольше жить? нет
    Стала лучше недвижимость? Уж точно нет. В царской России житие в деревянных домах было лучше, чем нынешние бетонные человейники. Да, не было электричества и водопровода.
    Человеческая среда стала лучше? Когда ты в 5 утра должен вставать и переть на электричке + метро + автобус на работу? Уж точно нет.
    Еда стала лучше? точно нет
    Экология?
    Свобода перемещения?
    Свобода слова?

    Теперь прогресс! Где он за последние 10-20-30 лет?
    Что развилось?
    Культура? нет
    Самолетостроение? нет
    Космос и тот нет!
    Автомобилестроение? нет. Добавили экранчик в авто и чуть доработок и все!
    Стали богаче жить? нет
    Единственное, что сильно развилось - смартфон. А зачем? Да что бы за нами следить!
    А потом корпорации (Властьимущие) будут решать что нам есть, как нам одеваться, что смотреть и как думать!! Вот этим и будет заниматься ИИ
    Хотя это уже реализовано

    В любом случае ИИ создается не для создания веселых картинок или видосиков, которые нам показывают, а для другого.
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Нажмите, чтобы раскрыть...
  30. Слепой снайпер

    Слепой снайпер Старики-разбойники

    В клубе с:
    30 окт 2009
    Сообщения:
    14,401
    Пол:
    Мужской
    Регион:
    Москва
    Примерно такую же ху-ню, только ещё более забористую, сочиняли противники QR кодов, называя их печатью антихриста.

    ИИ - инструмент. И как любой инструмент может использоваться и во благо и против.
    Любые заявления типа «молоток придумали что бы им по башке бить» - клиника.
     
    Stop hovering to collapse... Click to collapse... Hover to expand... Нажмите, чтобы раскрыть...

Яндекс.Метрика