ML во многом — экспериментальная область.
Подобно химику, который создаёт новое вещество с необходимыми свойствами, ML-инженер выбирает структуру нейросети и методы обучения, чтобы получить такую нейросеть, которая выполняет требуемые функции.
Например, ML-инженер выдвигает гипотезу, что определённая структура нейросети будет лучше решать нужную нам задачу. Он проверяет эту гипотезу и обязательно записывает результат, вне зависимости от того, удачный он или нет, т.к. это ценная информация.