Рейтинг:1

Сжать входные файлы из rsync перед записью на диск

флаг vn

Мне нужно загрузить большие текстовые файлы с другого компьютера через ссылку 10Gb, файлы, созданные внешним / программным обеспечением с закрытым исходным кодом, которые у меня нет доступа для изменения (например, чтобы заставить его сжимать выходные файлы)

В настоящее время использование сети и дискового ввода-вывода на этих машинах (исходной и целевой машинах) составляет 100%, что является узким местом системы.

Если бы исходная машина могла сжимать текстовые файлы, в первую очередь, не было бы никаких проблем, но у меня нет доступа к исходной машине (файлы rsync-ed на целевую машину, к которой у меня есть доступ)

Есть ли что-нибудь на целевой машине, что я могу сделать, чтобы хотя бы уменьшить нагрузку на диск целевой машины.

Мне пришла в голову нелепая идея: иметь подключенный к временной памяти диск с несколькими ГБ, смонтировать его как входной каталог rsync с исходной машины, затем напишите программу для сжатия пары текстовых файлов каждый раз, запишите сжатый выходной файл (размер в 10 раз меньше по сравнению с исходными файлами) на жесткий диск и удалите исходные файлы с подключенного к памяти диска.

Есть ли инструмент, который уже делает это?! Любые другие рекомендации?

Я использую убунту 18.04.

С уважением

флаг in
Рекомендации по продукту не по теме, но [fusecompress выглядит многообещающе] (https://www.systutorials.com/docs/linux/man/1-fusecompress/).
f.ald avatar
флаг vn
fusecompress выглядит как заброшенный проект (давно не обновлялся), и я не мог найти способ установить его на Linux
Рейтинг:0
флаг cn
Bob

Есть ли что-нибудь на целевой машине, что я могу сделать, чтобы хотя бы уменьшить нагрузку на диск целевой машины.

Когда дисковый ввод-вывод является узким местом, очевидным решением, конечно же, является "получить более быстрые диски".

В качестве альтернативы, когда у вас есть свободная мощность ЦП: несколько файловых систем Linux поддерживают «прозрачное» сжатие, когда драйвер файловой системы выполняет сжатие «на лету» при записи данных в базовое блочное хранилище и распаковку при повторном чтении данных. Тогда вам не придется ничего менять на уровне приложения.

f.ald avatar
флаг vn
Если мы смонтируем диск ZFS поверх NFS и получим удаленный доступ к файлам, сжатые/небольшие файлы будут передаваться по сети и распаковываться на удаленной машине или наоборот?
djdomi avatar
флаг za
вы используете csn tar и xz поверх nc или ssh

Ответить или комментировать

Большинство людей не понимают, что склонность к познанию нового открывает путь к обучению и улучшает межличностные связи. В исследованиях Элисон, например, хотя люди могли точно вспомнить, сколько вопросов было задано в их разговорах, они не чувствовали интуитивно связи между вопросами и симпатиями. В четырех исследованиях, в которых участники сами участвовали в разговорах или читали стенограммы чужих разговоров, люди, как правило, не осознавали, что задаваемый вопрос повлияет — или повлиял — на уровень дружбы между собеседниками.