Комментарии 12
Открыл статью и сначала подумал, что речь про фильм. А тут - нейросети за рулём 😁
Вопрос к Максу: Реально ли сделать честный автономный автомобиль сегодня? (а то чтото с автопилотом от теслы постоянно какая-то шумиха что они "преувеличивают"). А если не сегодня, то когда?
Понимаю что нейросети развиваются очччень быстро, но интересно что думает человек который с этим работает. (15 лет назад их еще толком не было, 10 лет назад - задачки уровня распознать простую картинку, 5 лет назад - распознавание работает уже лучше чем у человека и генеративные сети...)
Я , конечно, не Макс, но вроде бы чуть не с самого начала внедрения ассистентов как основные препятствия обсуждаются не столько технические, сколько легально-нормативные проблемы принятия решений для систем автономного вождения 4го и 5го уровня SAE.
А чем Веймо не честный? Роботакси в куче городов США уже функционирует
А чем Веймо не честный?
В том, что его нельзя просто выпустить в любом месте и попросить доехать до любого другого места.
Роботакси в куче городов США уже функционирует
Обратите внимание, что это преимущественно небольшие южные города. Нью-Йорк и Вашингтон появились только в этом году. В этом смысле китайцы, гоняющие в дождь по Шанхаю вызывают куда больше оптимизма. Но настоящее испытание будет, когда они попытаются ездить по Нью-Дели и Йоханнесбургу.
Если честный == работающий всегда, везде, в любой локации, без любого дообучения, то тогда да, мне неизвестны такие. Но в целом индустрия делает большие шаги в последние годы, и думаю, что появление "почти универсальных" систем - вопрос нескольких лет. Веймо запускается в Лондоне и Токио в этом году, Китайцы ездят в Пекине и Шанхае. Яндекс обещал полноценный ролаут такси в Москве в 2027 на своей конфе.
P.S. если меня выпустить на дорогу в Нью-Дели - для меня это тоже будет испытанием :)
Яндекс обещал полноценный ролаут такси в Москве в 2027 на своей конфе.
Примерно как говорит доктор в анекдоте: "И Вы обещайте". И что это за "полноценный" такой:-)? Несколько десятков такси внутри спального района с хорошей разметкой?:-) Так это не "полноценный". Или не roll-out. И, кстати, кто, когда и что конкретно сказал, а главное, как Яндекс за это ответит? :-)
Ниже в другом моём комментарии я более подробно написал, почему "полноценное" чисто технически сейчас получить крайне маловероятно.
15 лет назад их еще толком не было, 10 лет назад - задачки уровня распознать простую картинку, 5 лет назад - распознавание работает уже лучше чем у человека и генеративные сети...
Waymo появилась 22 года назад, как академический стартап, а 17 лет назад стала частью гугла. "Автопилот" в Теслах появился в 2014-м (12 лет назад)
Если бы его можно было сделать при текущих уровнях технологии, то мы бы его уже имели
Полный ответ на этот вопрос на еще одну статью легко сможет потянуть! Проблемы начинаются с того, что ты подразумеваешь под честным автономным автомобилем :)
Waymo уже в нескольких городах США вполне честно ездит без водителя за рулем. В китае есть уже несколько компаний, которые представляют сервис такси без водителя в довольно больших зонах в Гуанчжоу, Шеньжене, Шанхае.
"Звездочка с мелким шрифтом" в этих запусках пока тоже есть, иногда подключаются операторы, юридическое регулирование пока в серой зоне и т.п.
Пока видно, что технологически лидеры в отрасли уже очень близко подобрались к тому, чтобы технологию можно было начинать делать продуктом. Будут ограничения, но массовым продуктом уже может стать.
Не хватает еще стандарта для ИИ в этой отрасли, сопоставимого с автомотив стандартами, чтобы страховые могли вписываться в риски и государство давать какие-то гарантии. И не хватает достаточно дешевой машины, которая будет иметь все необходимое, включая резервные и диагностические системы для безопасности всего, что есть на борту (хотя тут уже близко и cybercab теслы и у baidu в китае есть наработки).
Всеми этими вещами очень активно сейчас занимаются, должно скоро начать сходиться)
Технологический челенж для нас - догонять лидеров сейчас, а для лидеров - добиться масштабирования в большое число локаций, городов.
Спасибо за подробное изложение. Как понимаю, автоводителя, которому доверять можно, не менее, чем профессиональному водителю, ещё долго не увидим. Вполне возможно, до появления AGI.
RL в Closed Loop даёт качественный скачок, но не решает всех задач — лишь открывает дорогу к новым направлениям, которые требуют отдельного внимания.
Я как раз об этом:-)
у нас есть статическая геометрия — HD‑карта. В отличие от остальных входов, карта — пространственная структура, не зависящая от времени. В ней заранее известны границы дорог, линии разметки, центры полос и топология движения, ограничения скорости, приоритеты и другие атрибуты.
А далее на дороге вырывают яму (и хорошо, если заранее знак "ремонтные работы" поставят), так что и от времени она начинает зависеть, и "известность заранее" пропадает. И тут нам нужно великолепное распознавание образов, которого у нас и так нет (великолепного), а у нас ещё и время на это распознавание критично ограничено.
Редкие и потенциально опасные ситуации почти не встречаются в реальных логах, поэтому поверх небольшого количества таких эпизодов мы генерируем их вариации: меняем локацию, количество агентов, конфигурацию движения.
Но так все возможные глупости, которые человек сотворить может, не сгенерировать, то периодически будем получать совершенно "глупые" ошибки у нашего трансформера, который будет сталкиваться с чем-то, что сгенерировать для него не догадались.
Спасибо за подробное изложение. Как понимаю, автоводителя, которому доверять можно, не менее, чем профессиональному водителю, ещё долго не увидим. Вполне возможно, до появления AGI.
Я как раз думаю не так уж долго) будет много мест, где довольно скоро будем ездить лучше среднего водителя такси. Ограничения тоже будут, но много где их будет незаметить. Сложно достичь уровня - "отучился в автошколе, начал ездить в любом городе". Но начать хорошо ездить в больших районах крупных городов уже вполне реально.
Разница с AGI в языковых моделях здесь еще в том, что рейт критических ошибок нужен очень очень низкий. Но задача в целом более простая, научиться водить, нежели научиться делать много разных задач лучше человека)
А далее на дороге вырывают яму (и хорошо, если заранее знак "ремонтные работы" поставят), так что и от времени она начинает зависеть, и "известность заранее" пропадает. И тут нам нужно великолепное распознавание образов, которого у нас и так нет (великолепного), а у нас ещё и время на это распознавание критично ограничено.
Любое ML решение нужно оборачивать в контур более простых проверок и логик, которые будут срабатывать менее умно, но безопасно. И также добавлять human in the loop, чтобы был больший контроль. С ремонтами и ямами все это в целом делается.
Но так все возможные глупости, которые человек сотворить может, не сгенерировать, то периодически будем получать совершенно "глупые" ошибки у нашего трансформера, который будет сталкиваться с чем-то, что сгенерировать для него не догадались.
У трансформера скорее всего будут свои специфичные ошибки, которых человек обычно не делает, на такое в автономном вождении можно уже много посмотреть на примере тех же waymo в США. Но их рейт уже в целом реально сделать приемлемым для того, чтобы можно было сделать полезный и безопасный сервис, у которого будут свои преимущства тоже. Хорошая часть технологии автономного вождения в критичных кейсах в любом случае еще в том, что мы сможем добиться, чтобы кейсы, которые уже случались, больше не повторялись. Человеку такого сложно добиться.
Я как раз думаю не так уж долго
А Вы поинтересуйтесь начальными планами Яндекс, к какому сроку они ожидали, что автовождение будет:-) Если не ошибаюсь, это был примерно 2013 (там как раз по пустыне машины сами смогли ездить уверенно. И тогда же один уважаемый мной учёный, занимавшийся ИИ, сказал мне, что проблему предсказания поведения человека на дороге будет на текущем уровне ИИ не решить. Я не очень поверил в такое, был очень оптимистичен.
И где-то в 2018, как помню, технический директор Яндекс сообщил, что так и нет пока автовождения, так как поведенческое прогнозирование оказалось неожиданно очень сложным, т.е. случилось ровно то, что мне предсказали. И вот мы в 2026 обсуждаем "ну, ещё чуть-чуть":-)
будет много мест, где довольно скоро будем ездить лучше среднего водителя такси.
"лучше среднего водителя такси" (невыспавшегося специалиста из ближнего зарубежья в экономе:-) - не тот критерий, на основании которого можно запустить такси без пилота в крупных городах в экономически выгодных объёмах. Полноценное автовождение должно бы быть где-то на уровне "20 лет безаварийного вождения в бизнес-классе".
И также добавлять human in the loop
И где наш уровень 5 тогда или даже 4 (высокая автоматизация - полная автономность в заданной зоне)? А случае такси уровень 3 (с требованием вмешательства пилота) даже юридически вряд ли пропустят.
С ремонтами и ямами все это в целом делается.
Проблема не в том, что "делается", а в том, что "не получается надёжно". Мы продолжаем слышать истории, как кто-то в них угодил. Как раз Waymo в июне отличился, хорошо, что в яму не попал и даже от погони полиции ушёл:-)). Аж в New York Post писали.
У трансформера скорее всего будут свои специфичные ошибки... чтобы можно было сделать полезный и безопасный сервис, у которого будут свои преимущства тоже.
Вы сами себе противоречите. Потому что в Вас технический эксперт с сотрудником Яндекс и (вероятно) энтузиастом спорит. Со "специфичными ошибками" Вы не сможете сделать "безопасный" сервис.
Что сделать есть шансы, так это что-то, что будет иметь меньше аварий, чем "средний водитель такси", и будет стоить меньше. Но иногда будет убивать людей в ситуациях, когда живой водитель бы этого не сделал. Экономически это будет выгодно (вот оно - основное "преимущество"). Этически - спорно. Удастся ли такое провести законодательно в России - увидим...
Но я лично предпочту невыспавшегося водителя, от которого я могу отказаться, чем автопилот, который не останавливается, даже когда ему пассажир кричит "стоп!" (всё тот же июньский инцидент).
И при этом я все же мечтаю увидеть и реально безопасный уровень 4, и полноценный уровень 5. Только, подозреваю, не на бессознательных трансформерах это будет.
Умеют ли трансформеры водить машину