Думаю, программирование систем ИИ будет сильно отличаться от привычного. По сути стоит задача создать заточенную под заданный диапазон внешних воздействий самоадаптирующуюся в определенных границах систему, при этом как такового алгоритма (програмного кода) не будет, вместо четких программных инструкций будет набор рекомендаций - и решение будет приниматься в зависимости от обстоятельств и их оценки внутренним цензором. Чтобы все это создать - придется симулировать разворачивание системы, как это происходит в реальности: мозг не программируется, а создается по инструкциям, но с очень большой вариабельностью.
То есть можно сказать, что программист ИИ понятия не имеет, что у него получится, и никто не сможет этого точно предсказать и угадать. Процесс кодинга будет похож на создание условий - запуск симулятора - получение результата адаптации - новые корректирующие условия (если возможно), или новый этап развертывания. Это как бы настоящий процесс творения в виде подталкивания к желаемым изменениям но не прямое кодирование.
Конечно это касается создания высокоуровневых систем ИИ, а простые биоавтоматы конечно будут просто прошиваться как современные роботы ПЗУ-шками с навороченной рефлексией.