CHEL74, раз вы используете GD, то определенно на нём просто не включен Webp, потому что при попытке оптимизировать изображение, у вас ссылается на
imagewebp(), которой тупо просто нет на GD. Ковыряйте настройки своего сервера. Или просто переключитесь на
ImageMagick и проблема уйдёт. Существенной разницы нет, что использовать, но для комфортной работы GD лучше.

Идём сюда
/admin.php?tools/phpinfo и находим WebP Support, смотрим, включен ли он там вообще.

Если включен, но ошибка долбит, то вероятно нужно проверить
php.ini найти директиву
disable_functions. Если там есть
imagewebp, её нужно убрать оттуда и после перезагрузить PHP-FPM. Так то идей нет, что ещё ковырять...
Галочку актуально поставить в том случае, если вы хотите перевести все изобраожения на webp. Именно это вам и нужно, но раз у вас тупо на GD поддержка Webp не включена, то толку вам от этого никакого.