История вопроса

раньше я по своей наивности заходил на удаленную машину 

там, если не было создавал папку .ssh

в ней создавал файл authorized_keys

в него пытался вписать публичный ключ, парясь с ненастроенным vim-ом

а потом надо было не забыть задать правильные права записи.

И теперь все эти телодвижения можно заменить одной командой:

ssh-copy-id -i ~/.ssh/id_rsa.pub HOST

один раз запрашивается пароль и всё