Допустимо ли (и возможно ли) автоматически блокировать IP-адрес путем динамического изменения файла .htaccess в php при обнаружении атаки bruteforce или DoS?
Да, есть возможность заблокировать IP. но пытаться остановить DDos-атаку таким способом бессмысленно, так как процесс apache уже запущен.
Deny from xx.xx.xx.xx
При блокировке IP-адреса вы обычно вводите правило в брандмауэр, чтобы заблокировать этот IP-адрес.
Я бы посоветовал вам взглянуть на модуль безопасности Apache
Также fail2ban — хороший способ остановить атаки грубой силы.
https://www.linode.com/docs/security/using-fail2ban-for-security
Других решений пока нет …