Один разработчик, принимавший участие в работе над программой, имеющей суровое название «Нулевое доверие» (НД), сообщил гонконгской газете о том, что местные чиновники стремятся отключать программу, поскольку она причиняет им определенные неудобства.
Из статьи становится понятно, что НД тщательно анализирует банковские данные, данные из имущественных реестров и реестров недвижимости, и даже данные со спутников, чтобы выявить признаки коррупции. Программа НД способна заметить подозрительный денежный перевод или, к примеру, новый автомобиль или иное ценное имущество, зарегистрированное на членов семьи или друзей госслужащего.
Чжан И, чиновник из провинции, в которой данное программное обеспечение ещё используется, сообщил, что результат работы НД берётся за основу для последующей работы по проверке и подтверждению полученных данных. Окончательное решение остаётся за человеком, а не за машиной.
Алгоритм правосудия
Несмотря на широкое распространение коррупции в Китае, чиновники, возможно, правы в своём недоверии к этому алгоритму, принципы работы которого скрыты в чёрном ящике, но, тем не менее, он может обрушить на свою жертву молот правосудия, не утруждая себя какой-либо аргументацией.
Неназванный разработчик программы говорит, что ИИ способен быстро определить коррумпированного чиновника, но не может достаточно понятно разъяснить последовательность действий, которые привели его к этому заключению. Поэтому, несмотря на то, что в большинстве случаев выводы ИИ верны, для работы с ним требуется человек.