Токаев обратил внимание на риски, которые следует учитывать при развитии и внедрении искусственного интеллекта. По его словам, возникает вопрос безопасности и защиты персональных данных в условиях, когда львиная доля обрабатываемой информации является приватной.
Кроме этого, Токаев указал на возможность использования искусственного интеллекта как «оружия» в конфликтах, геополитических противостояниях. Вызовы существующей архитектуре безопасности и контроля над вооружениями могут усугубляться противостоянием в кибертехнологиях и в области искусственного интеллекта. Он предположил, что отдельные страны, политические блоки и даже отдельные корпорации, владеющие высокоразвитыми технологиями, могут начать претендовать на особый статус и диктовать другим странам свои условия. В этой связи президент Казахстана предложил мировому политическому истеблишменту подумать о возможности принятия меморандума о неприменении технологий искусственного интеллекта во вред человеку и нарушения его прав. По его мнению, такой документ станет своего рода морально-этическим пактом для человека и категорическим императивом для искусственного интеллекта и его разработчиков.
«Нашей задачей является создание мер для недопущения негативного влияния подобного рода. Но, как бы парадоксально это ни звучало, успех новой эры будет зависеть от того уровня человечности, который мы заложим в новые технологии. Мыслительные процессы машин и роботов должны развиваться исключительно в конструктивном направлении», - убежден Токаев.