1º Servidor B acessando o servidor A sem necessária senha
2º Criar uma chave no servidor B com o comando ssh-keygen –t rsa (caso ainda não possua). Verificar se já não existe as chaves dentro do home do usuário /user/home/.ssh/ id_rsa ou id_rsa.pub, know_hosts

Veja exemplo:
server:~/.ssh # pwd
/root/.ssh
server:~/.ssh # ls
authorized_keys id_rsa id_rsa.pub known_hosts

3º Pegar a chave gerada no servidor B (id_rsa.pub e adiciona-la em AUTHORIZED_KEYS do servidor r
Verificar as permissões do arquivo authorized_keys2 e caso diferente aplicar:

• Put the public key in .ssh/authorized_keys
• Change the permissions of .ssh to 700
• Change the permissions of .ssh/authorized_keys2 to 640
IMPORTANTE chmod 640 /home/USER/.ssh/authorized_keys