Почему ChatGPT может давать опасные советы о карьере в IT
Новички и опытные специалисты всё чаще обращаются к ChatGPT и другим ИИ-сервисам, чтобы обсудить профессиональные перспективы, выбрать направление и составить план действий. На первый взгляд это удобно: модель отвечает быстро, формулирует убедительно и может поддерживать диалог практически на любую тему. Однако именно убедительная форма иногда становится главной проблемой.
Карьерные советы от ChatGPT могут выглядеть разумно, даже если основаны на неполных или нерелевантных данных. Пользователь получает не осторожную гипотезу, а гладкий текст с конкретными рекомендациями: освоить определённый стек, уйти в тестирование, стать аналитиком или, наоборот, отказаться от IT. Для человека, который находится в состоянии неопределённости, такой ответ легко принять за профессиональное заключение.
Эту проблему исследует Лилия Урмазова, Senior Staff ML Evaluation Engineer с 25-летним опытом в IT. В течение нескольких лет она проводила бесплатный курс профориентации и помогала людям понять, подходит ли им работа в технологической сфере. Из примерно 1700 участников 91% получили рекомендацию не идти в IT, поскольку это направление, по оценке автора, не принесло бы им ожидаемого результата или удовлетворения.
Изначально курс создавался как предварительный отбор перед платным обучением. Однако постоянные возвраты денег и большое число студентов, бросавших занятия, показали: далеко не каждому человеку нужна карьера в IT. Со временем проект превратился в самостоятельную гуманитарную инициативу, призванную показать реальное положение дел, а не продавать мечту о высокой зарплате.
С января 2026 года платное обучение было заморожено. На фоне сокращений в российском IT автор считает неэтичным брать деньги за подготовку специалистов, которым может быть сложно найти работу после выпуска. Бесплатная профориентация продолжала работать, но в нынешнем формате стала слишком затратной: индивидуальный разбор одного случая занимал не менее двух часов.
Причины для переработки курса очевидны. Во-первых, IT меняется настолько быстро, что даже специалистам трудно уверенно прогнозировать востребованные профессии через год. Во-вторых, ручная работа с тысячами участников практически невозможна. Потенциальным решением может стать собственная ИИ-модель, обученная на накопленной за несколько лет статистике и обезличенных результатах консультаций.
Почему универсальные модели ошибаются
ИИ особенно хорошо работает там, где имеется огромное количество качественных примеров. К таким задачам относятся программирование, перевод, транскрибация, обработка медицинской информации, выявление мошеннических операций и финансовая аналитика. Например, сотни миллионов репозиториев позволяют моделям изучать закономерности в коде, а большие массивы текстов помогают совершенствовать перевод и работу с естественным языком.
Сложнее обстоят дела с неоднозначными задачами, где важны индивидуальный контекст, культурные особенности и скрытые мотивы. Профессиональный выбор относится именно к этой категории. Решение зависит не только от навыков человека, но и от его финансового положения, семейных обстоятельств, состояния рынка, личной мотивации, склонности к определённому типу деятельности и способности выдерживать длительный период обучения.
Качественных данных о смене профессии немного. Такой процесс занимает месяцы и годы, а подробные дневники карьерного перехода ведут единицы. При этом интернет переполнен рекламными текстами онлайн-школ, мотивирующими публикациями и купленными отзывами. Материалы "после курса я зарабатываю в три раза больше" часто не отражают реальную статистику и потому создают искажённую картину.
В результате модель может обучаться не на объективных историях, а на маркетинговом шуме. Она начинает воспроизводить знакомые шаблоны: обещать быстрый рост, советовать популярные профессии и игнорировать высокий уровень конкуренции. Поэтому опасные советы ChatGPT по карьере возникают не обязательно из-за технической ошибки. Иногда модель просто уверенно обобщает нетипичные или рекламные примеры.
Более подробно о том, почему ИИ плохо справляется с долгосрочными карьерными решениями и как проверять его рекомендации, можно прочитать в материале о [карьерном консультировании с помощью AI](https://habr.com/ru/articles/1080184/?utm_campaign=1080184&utm_source=habrahabr&utm_medium=rss).
История Анны как проверка рекомендаций
Представим Анну - вымышленную пользовательницу, которая обращается к GPT-6 Astra с вопросом о профессиональном будущем. Она хочет понять, как выбрать профессию в IT с помощью ChatGPT, не имеет точного плана, сомневается в своих способностях и рассчитывает на пошаговую подсказку.
Модель может начать с уточняющих вопросов, но затем всё равно будет вынуждена достраивать картину. Если Анна недостаточно подробно расскажет о своём опыте, доходах, здоровье, бытовых ограничениях и реальной мотивации, ответы окажутся слишком общими. Если же она заранее склоняется к конкретной профессии, ИИ способен подхватить это направление и начать подтверждать первоначальное желание вместо объективной проверки.
Есть и психологический фактор. Человек склонен замечать советы, которые совпадают с его ожиданиями, и отбрасывать неудобные аргументы. Поэтому даже корректный ответ может быть использован неправильно: пользователь выберет отдельную фразу, превратит её в окончательный вердикт и проигнорирует оговорки.
ИИ не знает человека так, как его знает опытный консультант после продолжительной работы. У модели нет доступа к невербалике, истории решений, реальным результатам пробных заданий и поведению в стрессовой ситуации. Она видит только текст, который пользователь решил сообщить.
Как безопаснее использовать ChatGPT
ChatGPT можно применять как инструмент для подготовки, но не как единственный источник решения. Сначала стоит попросить модель сформулировать несколько возможных гипотез, а затем для каждой указать необходимые навыки, риски, срок обучения и признаки того, что направление не подходит.
Полезно просить ИИ не только советовать, но и спорить с пользователем: искать слабые места в плане, перечислять противопоказания, анализировать сценарий неудачи. Такой подход снижает риск получить исключительно позитивную и мотивирующую картину.
Не стоит строить план развития карьеры в IT на основании одной беседы. Лучше проверить рекомендации через реальные вакансии, профессиональные сообщества, открытые учебные материалы и разговоры с людьми, которые действительно работают в выбранной области. Особенно важно сравнить требования работодателей с собственными навыками, а не ориентироваться на рекламные обещания.
Начинать разумнее с небольших экспериментов: выполнить тестовое задание, пройти короткий практический модуль, собрать простой проект или понаблюдать за рабочими задачами специалиста. Это даст больше информации, чем десятки абстрактных прогнозов. Если после практики интерес сохраняется, можно переходить к полноценному обучению.
Наконец, любой ответ модели следует воспринимать как рабочую версию, которую необходимо проверять. ИИ может помочь структурировать мысли, составить список вопросов, сравнить варианты и найти пробелы в знаниях. Но ответственность за выбор профессии, финансовые решения и оценку собственных возможностей остаётся у человека. Именно поэтому карьерные рекомендации ChatGPT полезны только в сочетании с фактами, практикой и независимой проверкой.
