Uma solução realmente seria impedir a digitação desses caracteres através da restrição deles em Formatação dos Valores / Caracteres permitidos.
Isso vai impedir a entrada de novos registros com aspas.
Mas cuidado, se você tiver tabelas que foram carregadas a partir do mainframe, por exemplo, poderão existir registros com aspas simples, aspas duplas, apóstrofos, etc.
Nesse caso, a tabela deve ser atualizada, caso a caso, excluindo-se esses caracteres.
Por outro lado, se for realmente necessário manter essas aspas nos seus registros, você deve utilizar o caracter de escape (’’).
Verifique o link
http://lab.etfto.gov.br/material/db/mysql/manual.pt_Reference.html - item 6.1.1.1 (Strings) e entenda melhor como conseguir isso.
Um registro da cidade Santa Bárbara d’Oeste, por exemplo, deverá ser armazenado no banco de dados como Santa Bárbara d’Oeste.
Se o usuário final tiver acesso a uma tabela dessas, os programas de inclusão e alteração de registros deverão ter inteligência para incluir sempre um caracter de escape antes das aspas antes de gravar o registro no banco de dados.