Мне кажется, вы копируете 4 ключа на свой сервер.
Это взято из онлайн-документации, расположенной по адресу
https://www.ssh.com/academy/ssh/copy-id
-я Указывает копируемый файл идентификации (по умолчанию ~/.ssh/id_rsa). Если этот параметр не указан, добавляются все ключи, перечисленные с помощью ssh-add -L.. Примечание: это может быть несколько ключей, и добавление дополнительных авторизованных ключей может произойти случайно! Если ssh-add -L не возвращает ключей, то будет использоваться последний измененный ключ, соответствующий ~/.ssh/id*.pub, за исключением тех, которые соответствуют ~/.ssh/*-cert.pub.
Обновлять из комментариев:
Если вы хотите удалить определенный ключ, просто используйте:
$ rm .ssh/id_target_key*
Одним из вариантов резервного копирования может быть:
$ mv .ssh/id_target_key id_target_key.bak
Помните, что всегда есть 2 ключа. Один частный и один публичный. Последний имеет расширение .pub
Где найти эти ключевые файлы?
На сервере открытым /etc/ssh/sshd_config и искать
Файл авторизованных ключей .ssh/authorized_keys
Этот файл можно отредактировать, чтобы вручную удалить свой ключ, возможно, там установлены ключи других пользователей.
На клиенте открытым /etc/ssh/ssh_config и искать альтернативный путь оттуда. (У меня все закомментировано, поэтому ~/.ssh — это местоположение по умолчанию) ~/ — это относительный путь, который меняется для каждого пользователя. Выполнение набора команд ssh с помощью судо приведет к другому пути: /корень.