В этой инструкции о нескольких бесплатных и простых способах найти дубликаты файлов на компьютере в Windows 10, 8 или 7 и удалить их при необходимости. Прежде всего речь пойдет о программах, которые позволяют выполнить поиск дубликатов файлов, но, если вас интересуют способы интереснее, в инструкции затронута и тема их поиска и удаления с помощью Windows PowerShell.

Для чего это может потребоваться? Почти у любого пользователя, который достаточно продолжительное время сохраняет архивы фотографий, видео, музыки и документов к себе на диски (не важно, внутренние или внешние хранилища), с огромной вероятностью «образуются» дубликаты одних и тех же файлов, занимающие лишнее место на HDD, SSD или другом накопителе.

Важно: не рекомендую выполнять поиск и удаление (особенно автоматическое) дубликатов сразу на всём системном диске, указывайте в приведенных программах ваши пользовательские папки. Иначе есть значительный риск удалить необходимые системные файлы Windows, которые нужны более чем в одном экземпляре.

AllDup - мощная бесплатная программа для поиска дубликатов файлов

Бесплатная программа AllDup доступна на русском языке и содержит все необходимые функции и настройки, имеющие отношение к поиску дубликатов файлов на дисках и в папках Windows 10 – XP (x86 и x64).

Среди прочего поддерживается поиск на нескольких дисках, внутри архивов, добавление фильтров файлов (например, если нужно найти только дубликаты фотографий или музыки или исключить файлы по размерам и другим характеристикам), сохранение профилей поиска и его результатов.

По умолчанию, в программе сравнение файлов происходит только по их именам, что не очень разумно: рекомендую сразу после начала использование включить поиск дубликатов только по содержимому или хотя бы по имени и размеру файла (эти настройки можно изменить в «Метод поиска»).

При поиске по содержимому файлы в результатах поиска сортируются по их размеру, доступен предварительный просмотр для некоторых типов файлов, например, для фотографий. Чтобы удалить ненужные дубликаты файлов с диска, отметьте их и нажмите кнопку слева вверху в окне программы (Файл-менеджер для операций с выбранными файлами).

Выберите, полностью ли их удалить или переместить в корзину. Допустимо не удаление дубликатов, а их перенос в какую-либо отдельную папку или же переименование.

Подводя итог: AllDup функциональная и настраиваемая утилита для быстрого и удобного поиска дубликатов файлов на компьютере и последующих действий с ними, к тому же с русским языком интерфейса и (на момент написания обзора) чистая от какого-либо стороннего ПО.

Скачать AllDup можно бесплатно с официального сайта http://www.allsync.de/en_download_alldup.php (там же присутствует и portable версия, не требующая установки на компьютер).

DupeGuru

Программа DupeGuru - еще одна отличная бесплатная программа для поиска дубликатов файлов на русском языке. К сожалению, разработчики с недавних пор перестали обновлять версию для Windows (но обновляют DupeGuru для MacOS и Ubuntu Linux), однако имеющаяся на официальном сайте http://hardcoded.net/dupeguru версия для Windows 7 (внизу страницы) прекрасно работает и в Windows 10.

Все что потребуется для использования программы - добавить папки для поиска дубликатов в список и запустить сканирование. По его завершении вы увидите список найденных дубликатов файлов, их расположение, размеры и «процент», на сколько этот файл совпадает с каким-либо другим файлом (по любым из этих значений можно отсортировать список).

Например, в моем случае одна из тестировавшихся недавно программ, как оказалось, скопировала свой файлы установки в папку Windows и оставила там (1, 2), забрав у меня драгоценные 200 с лишним Мб, этот же файл остался и в папке загрузок.

Как видно на скриншоте, отметка для выбора файлов есть только у одного из найденных образцов (и только его можно удалить) - при этом в моем случае логичнее удаление не из папки Windows (там, в теории, файл может быть нужен), а из папки загрузок. Если выбор нужно изменить, отметьте файлы, которые не нужно удалять и затем, в меню правого клика мыши - «Сделать выбранные эталоном», тогда отметка для выбора исчезнет у текущих файлов и появится у их дубликатов.

Думаю, с настройками и остальными пунктами меню DupeGuru у вас не составит труда разобраться: все они на русском и достаточно понятны. А сама программа ищет дубликаты быстро и надёжно (главное не удаляйте какие-либо системные файлы).

Duplicate Cleaner Free

Программа для поиска дубликатов файлов на компьютере Duplicate Cleaner Free - еще одно скорее хорошее, чем плохое решение, особенно для начинающих пользователей (на мой взгляд, этот вариант проще). Несмотря на то что сравнительно ненавязчиво предлагает приобрести Pro версию и ограничивает некоторые функции, в частности поиск только одинаковых фотографий и изображений (но при этом доступны фильтры по расширениям, что позволяет также искать только картинки, возможен поиск только одинаковой музыки).

Также, как и предыдущие программы, Duplicate Cleaner имеет русский язык интерфейса, но некоторые элементы, судя по всему, были переведены с использованием машинного перевода. Тем не менее, почти всё будет понятно и, как было упомянуто выше, работа с программой скорее всего будет очень простой для начинающего пользователя, которому потребовалось найти и удалить одинаковые файлы на компьютере.

Скачать бесплатно Duplicate Cleaner Free вы можете с официального сайта https://www.digitalvolcano.co.uk/dcdownloads.html

Как найти дубликаты файлов с помощью Windows PowerShell

При желании, можно обойтись без сторонних программ для поиска и удаления дубликатов файлов. Недавно я писал о том, в PowerShell и эту же функцию можно использовать для поиска одинаковых файлов на дисках или в папках.

При этом, можно найти множество различных реализаций скриптов Windows PowerShell, позволяющих найти дубликаты файлов, вот некоторые варианты (сам я не специалист по написанию таких программ):

Ниже на скриншоте - пример использования слегка модифицированного (чтобы он не удалял дубликаты файлов, а отображал их список) первого скрипта в папке изображений (где лежат две одинаковые картинки - те же, что нашла программа AllDup).

Если для вас создание скриптов PowerShell - привычное дело, то, думаю, в приведенных примерах вы сможете найти полезные подходы, которые помогут реализовать поиск дубликатов файлов необходимым именно вам способом или даже автоматизировать процесс.

Дополнительная информация

Помимо приведенных программ поиска дубликатов файлов, есть много других утилит такого рода, многие из них не бесплатны или ограничивают функции до регистрации. Также при написании этого обзора попались программы-пустышки (которые делают вид, что ищут дубликаты, а по факту лишь предлагают установить или купить «основной» продукт) от довольно-таки именитых разработчиков, которые у всех на слуху.

На мой взгляд, свободно распространяемые утилиты для поиска дубликатов, особенно первые две из данного обзора, более чем достаточны для любых действий по поиску одинаковых файлов, в том числе музыки, фотографий и картинок, документов.

Если же приведенные варианты вам показались не достаточными, при загрузке других найденных вами программ (да и перечисленных мною - тоже) будьте внимательны при установке (во избежание установки потенциально нежелательного ПО), а еще лучше - .

Доброго времени суток.

Статистика вещь неумолимая - у многих пользователей на жестких дисках лежат, порой, десятки копий одного и того же файла (например, картинки, или музыкального трека). Каждая из таких копий, разумеется, отнимает место на винчестере. А если диск ваш уже «забит» под завязку - то таких копий может быть достаточно много!

Чистить дубликаты файлов вручную - вещь не благодарная, именно поэтому, я хочу собрать в этой статье программы для поиска и удаления дубликатов файлов (причем, даже тех, которые отличаются и по формату файла, и по размеру друг от друга - а это довольно сложная задача!). Итак…

Список программ для поиска дубликатов

1. Универсальные (для любых файлов)

Осуществляют поиск одинаковых файлов по их размеру (контрольным суммам).

Под универсальными программами, я понимаю, те, которые годятся для поиска и удаления дублей любых типов файлов: музыки, фильмов, картинок и пр. (ниже в статье для каждого типа будет приведены «свои» более точные утилиты). Работают они все в большинстве по одному типу: они просто сравнивают размеры файлов (и их контрольную сумму), если есть среди всех файлов одинаковые по этой характеристике - показывают вам!

Т.е. благодаря ним можно быстро найти на диске полные копии (т.е. один в один) файлов. Кстати, так же отмечу, что данные утилиты работают быстрее, чем те, которые специализированы для конкретного типа файлов (например, поиска картинок).

DupKiller

Эту программу я поставил на первое место по ряду причин:

• поддерживает просто огромное число разнообразных форматов, по которым она может проводить поиск;
• высокая скорость работы;
• бесплатная и с поддержкой русского языка;
• очень гибкая настройка поиска дублей (поиск по названию, размеру, типу, дате, содержимому (ограниченно)).

Duplicate Finder

Эта утилита, помимо поиска копий, еще и сортирует их так, как вам вздумается (что очень удобно, когда копий находится неимоверное количество!). Так же к возможностям поиска добавьте побайтовое сравнение, сверка контрольных сумм, удаление файлов с нулевым размером (и пустых папок тоже). В общем-то, с поиском дублей эта программа справляет довольно неплохо (и быстро, и качественно!).

Немного не комфортно будут себя чувствовать те пользователи, которые плохо знакомы с английским: русского в программе нет (возможно после будет добавлен).

Glary Utilites

Вообще, это не одна утилита, а целый сборник: поможет удалить «мусорные» файлы, задать оптимальные настройки в Windows, дефрагментировать и очистить жесткий диск и т.д. В том числе, в этом сборнике есть утилита для поиска дублей. Работает она относительно не плохо, поэтому я и порекомендую этот сборник (как один из самых удобных и универсальных - что называется на все случаи жизни!) еще раз на страницах сайта.

2. Программы поиска дубликатов музыки

Данные утилиты пригодятся всем меломанам, у которых на диске скопилась порядочная коллекция музыки. Рисую довольно типичную ситуацию: скачиваете различные сборники музыки (100 лучших песен октября, ноября и пр.), часть композиций в них повторяется. Не удивительно, что, накопив музыки на 100 ГБ (к примеру), 10-20ГБ - могут быть копиями. Причем, если бы размер этих файлов в разных сборниках был одинаковый - то их бы можно было бы удалить первой категорией программ (см. выше в статье), но так как это не так - то эти дубли не находятся ничем, кроме вашего «слуха» и специальных утилит (которые представлены ниже).

M usic Duplicate Remover

Результат работы утилиты.

Эта программа отличается от остальных, прежде всего, свои быстрым поиском. Она ищет повторные треки по их ID3 тегам и по звуку. Т.е. она как бы за вас прослушает композицию, запомнит ее, а затем сравнит ее с другими (таким образом, проделывает огромный объем работы!).

На скриншоте выше представлен ее результат работы. Свои найденные копии она представит перед вами в виде небольшой таблички, в которой к каждому треку будет приписана цифра в процентах схожести. В общем, достаточно удобно!

A

Найденные повторные MP3 файлы…

Эта утилита схожа с вышеприведенной, но у нее есть один несомненный плюс: наличие удобнейшего мастера, который будет Вас вести по шагам! Т.е. человек, впервые запустивший эту программу, легко разберется куда нажимать и что делать.

Например, в своих 5000 треках за пару часов, мне удалось найти и удалить несколько сотен копий. Пример работы утилиты представлен на скрине выше.

3. Для поиска копий картинок, изображений

Если анализировать популярность тех или иных файлов, то картинки, пожалуй, не отстанут от музыки (а для некоторых пользователей и перегонят!). Без картинок вообще сложно представить работу за ПК (и другими устройствами)! Но поиск картинок с одинаковым изображением на них - дело довольно трудное (и долгое). И, должен признаться, программ этого рода сравнительно не много…

ImageDupeless

Сравнительно небольшая утилита с довольно неплохими показателями поиска и устранения дублей картинок. Программа сканирует все изображения в папке, а затем сравнивает их между собой. В результате вы увидите список картинок, которые похожи друг на друга и сможете сделать вывод о том, какую из них оставить, а какую удалить. Очень полезно, иногда, прореживать свои архивы фото.

Пример работы ImageDupeless

Кстати, вот небольшой пример личного испытания:

• подопытные файлы: 8997 файлов в 95 каталогах, 785Мб (архив картинок на флешке (USB 2.0) - gif и jpg форматы)
• галерея заняла: 71.4Мб
• время создания: 26 мин. 54 сек.
• время сравнения и вывода результатов: 6 мин. 31 сек.
• результат: 961 похожее изображение в 219 группах.

Image Comparer

Об этой программе я уже упоминал на страницах сайта. Представляет собой так же небольшую программу, но с довольно хорошими алгоритмами сканирования картинок. Есть пошаговый мастер, запускающийся при первом открытии утилиты, который проведет через все «тернии» первой настройки программы для поиска дублей.

Кстати, чуть ниже приведен скриншот работы утилиты: в отчетах вы можете просмотреть даже мелкие детали, где картинки несколько различаются. В общем-то, удобно!

4. Для поиска дублей фильмов, видео-роликов

Ну и последний популярный тип файлов, на котором хотелось бы остановиться - это видео (фильмы, ролики и пр.). Если когда-то раньше, обладая 30-50 ГБ диском, знал в какой папке где и какой фильм сколько отнимает (и они все были наперечет), то, например, сейчас (когда диски стали 2000-3000 и более ГБ) - часто встречаются одни и те же ролики и фильмы, но в разном качестве (что может отнять достаточно много места на жестком диске).

Доброго дня!

Я думаю, что у многих пользователей на диске лежат десятки (а то и сотни) гигабайт картинок, обоев, видео, музыки и пр. файлов. И должен заметить, что в разных каталогах (в сборниках обоев, например) могут находится достаточно много копий (дублей). Нередко, после их удаления, удается освободить несколько гигабайт пространства на HDD!

Для поиска дубликатов существуют специальные программы и утилиты. Они способы за относительно небольшое время просканировать ваш жесткий диск(и) и представить вам на обозрение все одинаковое. Дальше, как правило, вам останется только пометить галочками, что удалить - и вуаля, место очищено!

В этой статье приведу несколько таких "чистильщиков", которые помогут вам освободить место на жестком диске. И так...

Дополнение!

Универсальные (поиск любых файлов)

Универсальные программы для поиска дублей подойдут для работы с любыми файлами: документами, фотографиями, видео и пр. Как правило, их работа строится на поиске файлов одинакового размера и контрольной суммы. Т.е. эти программы ищут точные копии, совпадающие на 100%!

Благодаря этому, их скорость работы достаточно высока. Однако, они не могут найти, например, почти одинаковые картинки, которые сохранены в разных форматах и отличным разрешением. Для этого необходимо использовать спец. ПО, которое я порекомендую ниже...

CCleaner

Одна из самых известных утилит по очистке ПК. Однако, не многие пользователи знают, что в ее арсенале есть функция по поиску дублей (причем, весьма неплохая функция!).

Чтобы открыть эту опцию: необходимо загрузить последнюю версию программы, в меню "Сервис" выбрать "Поиск дублей" , указать настройки и нажать кнопку "Найти" .

Отмечу, что поиск идет достаточно быстро, можно фильтровать файлы по их размеру, дате имени. Также вручную можно задать конкретные диски (папки) для поиска. В общем, довольно удобно!

Glary Utilities (Glary Duplicate Cleaner)

Glary Utilities - отличный набор утилит на все случаи жизни. Содержит в себе все самые необходимые инструменты для очистки, обслуживания и оптимизации Windows. Этот комплекс я уже неоднократно рекомендовал на страницах своего блога ...

В его арсенале встроенного ПО есть одна небольшая утилита Glary Duplicate Cleaner. Она позволяет достаточно быстро находить дубли самых разных форматов файлов: TXT, RAR, ZIP, MP3, WAV, AVI, JPG, BMP и пр. (в общем, все самое популярное точно есть, см. скрин ниже).

Настройка параметров сканирования / Glary Duplicate Cleaner

Также есть небольшой фильтр с критериями поиска: по имени, размеру, времени. Есть опция для пропуска файлов определенного размера (например, можно пропускать файлы, которые весят менее 100 КБ).

Отмечу, что пакет Glary Utilities бесплатен, и полностью переведен на русский язык. В общем, оценка 5 по 5 бальной шкале!

AllDup

Это небольшая бесплатная утилита способа очень быстро просканировать все ваши накопители и удалить все повторяющиеся файлы. Разработчики отмечают, что их алгоритм поиска на 10-30% работает быстрее, чем у других аналогичных продуктов.

Лично я скорость не проверял, но отметил бы следующее: утилита работает во всех ОС Windows 2000, XP, 7, 8 ,10 (это некое преимущество!).

После произведенного поиска, утилита AllDup представит вам результаты: с каждым дубликатом вы сможете ознакомиться и удалить его прямо из интерфейса программы. Удобно!

Duplicate File Finder

Бесплатный инструмент для очистки дисков от повторяющихся файлов. Программа побайтово сравнивает файлы на указанном диске (каталоге). Присутствуют стандартные фильтры: расширение файла, его имя, дата создания, и размер.

С результатом поиска (пример приведен на скрине выше) можно либо ознакомиться в самой программе (и принять решение), либо экспортировать его в файлы HTML, CSV и TXT. Кстати, отметил бы, что в программе достаточно удобный вьювер, позволяющий просмотреть картинку, текст, видео.

Total Commander

В этом знаменитом коммандере (хорошей замене проводника) также есть функция поиска файлов. Чтобы ее открыть - нажмите по значку "лупы" в верхнем меню программы (см. скрин выше).

Возможностей, конечно, здесь не так много, но тем не менее...

Для поиска фото, картинок, графики

Эти программы могут производить поиск не только по размеру (контрольной сумме) файла, но и по содержимому картинки. Например, у вас есть несколько одинаковых обоев для рабочего стола, располагающихся в двух разных папках (но у этих картинок разный размер и разрешение).

Так вот, программы, приведенные выше - не нашли бы эти дубликаты, т.к. они "не могут" оценить то, что отображено на картинках. В этом случае необходимо воспользоваться спец. инструментами (о них ниже ) ...

Image Comparer

Это совсем небольшая утилита, специализирующаяся на поиске похожих изображений. Отмечу, что она сравнивает не просто размер, а то, что изображено на картинке (см. скрин выше). Поддерживаются все популярные форматы картинок и фото: RAW, JPEG, J2K, BMP, GIF, PNG, TIFF, TGA и др.

После проведенного поиска, пред вами предстанет список дубликатов: пройдясь по нему, вы сможете просмотреть все копии и удалить те, которые вам не нужны. Что интересно: программа показывает вам процент похожести тех или иных картинок (разница между ними выделяется при просмотре квадратиками).

Из минусов : если вы укажите большой диск (в несколько терабайт) - программе потребуется очень большое время на сканирование. Рекомендую перед ее использованием пройтись по картинкам с помощью более грубых инструментов (например, CCleaner, AllDup и пр., см. выше) .

DupeGuru Picture Edition

Очень простенькая утилита, которая предназначена для быстрого поиска одинаковых картинок. Отмечу, что похожие картинки будут найдены даже если у них разный формат (например, JPG и Tiff как на скрине выше).

Из преимуществ утилиты:

• наглядное сравнение картинок;
• программа полностью бесплатна;
• простой интерфейс, выполненный в стиле минимализма;
• поддержка русского языка;
• возможность экспортировать результаты поиска;
• поддержка всех самых популярных версий Windows XP, 7, 8 ,10.

ImageDupeless

Программа ImageDupeless позволяет находить дубликаты картинок в независимости от размера файлов, их формата, разрешения и пр. характеристик (она как бы за вас "посмотрит" все картинки и найдет похожие).

Также в программе есть весьма интересная функция записи изображений на CD диски (создание своеобразных CD галерей).

Примечание : для экономии времени вновь поступающие картинки сравнивайте с уже имеющейся галереей (так вы сэкономите кучу времени, т.к. полное сканирование всех картинок на диске - это значительно дольше, чем уже искать в созданной галереи) .

Результат сравнения: обратите внимание, что разрешение и размер у картинок разный!

Visual Similarity Duplicate Image Finder

Программа использует продвинутые алгоритмы для сравнения графических образов, имеющихся на картинках и фотографиях. Благодаря этому удается найти похожие и одинаковые картинки, даже если у них разный формат (GIF, PNG, JPG и пр.) и разрешение.

Отмечу, что у пользователя есть опция для указания признака похожести (т.е. вы можете задать, скажем, найти только те картинки, которые схожи друг с другом на 95%).

После проведения поиска: вы сможете просмотреть все найденные дубли и вручную удалить все ненужное. Кстати, программа располагает рядом с друг другом 2 одинаковые изображения (пример см. выше), чтобы вы могли наглядно просмотреть разницу. Весьма удобно!

Для поиска аудио- и видео-файлов

Audio Comparer (Электронное ухо)

Audio Comparer - программа прослушает почти 300 треков за 10 мин.

Audio Comparer - это не такое простое приложение для поиска дублей среди музыкальных файлов (MP3, MP2, MP1, WMA, AIF, WAV, WavPack, FLAC, APE, AAC и OGG), как это может показаться при первом взгляде... Оно "слушает" музыку и сравнивает треки между собой по особому алгоритму: сравнение идет по аудио-дорожке, а не по размеру или названию файла (как это сделано во многих других аналогах).

Благодаря чему, одинаковые треки могут быть найдены даже в том случае, если они сохранены в разные форматы. Audio Comparer - это, своего рода, электронное ухо, которое может очень быстро прослушать всю вашу музыку.

Отмечу, что подобных программ достаточно мало, поэтому каждая заслуживает отдельного внимания! Рекомендую к знакомству!

DupeGuru Music Edition

Весьма интересная программа dupeGuru Music Edition для поиска одинаковых и похожих музыкальных треков. В наличии есть фильтры для поиска: по битрейту, информации в тегах, продолжительности, размеру и т.д.

Поддерживаются все самые популярные форматы: MP3, WMA, AAC, WMA, OGG, FLAC. После произведенного поиска, найденные дубликаты можно либо удалить, либо перенести в другие каталоги.

Отметил бы также наличие русского языка и поддержку современных ОС Windows 7, 8, 10 (в т.ч. 64 bits).

Music Duplicate Remover

Music Duplicate Remover - утилита позволяет легко и быстро находить копии аудио-файлов, расположенных в разных папках (дисках) и сохраненных в различных форматах. Благодаря технологии "электронного уха", она способна прослушать все ваши композиции на диске, проанализировать их и предоставить вам отчет со всеми похожими треками (пример такого отчета показан на скриншоте выше).

Отмечу, что утилита отлично работает и со стандартными предустановками (т.е. после ее загрузки и запуска - нет нужды долго копаться в настройках, можно сразу же приступать к сканированию).

Примечание! Music Duplicate Remover поддерживает следующие форматы аудио: MP3, WMA, OGG, FLAC, APE, WAV.

Duplicate Video Search

Довольно мощная программа для удаления одинаковых видео, сохраненных в разных папках (подойдет тем, у кого много всяких видеороликов, музыкальных клипов, сборников топ-100 и пр.). Поможет "прошерстить" вашу коллекцию файлов и удалить все дубли.

Отмечу, что в программе используется технология уникального "слепка" (т.е. своего рода "электронный глаз"), которая позволяет находить похожие видео, даже если они сохранены в другой формат, у них другое разрешение и они сжаты другим кодеком.

Особенности:

1. поддерживаются следующие форматы видео: AVI, MKV, 3GP, MPG, SWF, MP4, WMV, WTV и FLV (см. скрин выше);
2. поиск полных копий видео и похожих (где отличное разрешение, битрейт, формат, кодек);
3. программа автоматически выбирает видео с худшим качеством среди всех дублей (тем не менее, вы вручную можете указать, какую копию удалять);
4. удобное и наглядное представление результатов поиска: миниатюры к каждому видео и путь до каталога, где оно хранится;
5. прямо из окна программы можно либо просмотреть видео, либо удалить его.

Video Comparer

Video Comparer - программа предназначена для поиска и сравнения видео на жестком диске. За относительно короткий промежуток времени, она может просмотреть все ваши видео и показать вам в удобной табличке все файлы, которые повторяют друг друга (полные дубли, похожие ролики, видео с одинаковым содержимым, но разным качеством и пр.).

Отмечу, что в программе есть различные фильтры, которые позволят, например, искать видео только определенного формата (или задать продолжительность видео).

Особенности:

1. поддерживает форматы: 3GP, AVI, ASF, ASX, WMV, VOB, XVID, MP4, MPEG;
2. возможность вести поиск среди скрытых файлов;
3. возможность автоматического выделения похожих видео для удаления;
4. фильтры видео по продолжительности, качеству и расширению;
5. удобное представление результатов поиска: превью к каждому видео; размер; папка, где оно расположено; название; процент схожести.
6. возможность резервного копирования в отдельную папку;
7. ведение логов;
8. поддержка почти всех популярных Windows XP, 7, 8, 10 (32/64 bits).

Дополнения, как всегда, приветствуются.

Удачной работы!

Иногда в повседневной компьютерной деятельности возникает задача найти дубликаты файлов. Причин для этого может быть множество: нехватка места на жестком диске, попытки уменьшить энтропию в своих файлах, разобраться со сброшенными в разное время фотографиями с фотоаппарата и множество других нужных случаев.

В сети можно найти большое количество программ, которые позволяют искать дубликаты файлов. Но зачем искать какие-то программы, если шикарный инструмент для такой работы обычно всегда под рукой. И называется этот инструмент Total Commander (TC ).

В этой статье я покажу все методы на основе Total Commander версии 8.5 , в этой версии поиск дубликатов файлов стал очень богат функционально.

!!!Маленькое важное отступление. Что нужно понимать под словом дубликат файла? Два файла ИДЕНТИЧНЫ только тогда, когда они полностью совпадают побитно. Т.е. любая информация в компьютере представлена последовательностью нулей и единиц. Так вот, файлы совпадают только тогда, когда у них полностью совпадает последовательность нулей и единиц, из которых эти файлы состоят. Все разговоры о том, что можно сравнить два файла по какому-либо другому признаку, глубоко ошибочны.

В TC есть два, различающихся по своей сути, метода поиска дублирующихся файлов:

• Синхронизировать каталоги;
• Поиск дубликатов;

Их особенность и применение лучше всего показать на примерах.

1.Синхронизация каталогов.

Данный метод применяется тогда, когда у вас две сравниваемые папки имеют идентичную структуру. Это обычно бывает во многих случаях, вот несколько из них:

• Вы регулярно делали архив своей рабочей папки. Через какое-то время вам понадобилось выяснить, какие файлы были добавлены или изменены с момента создания архива. Вы распаковываете весь архив в отдельную папку. Структура папок в нем практически совпадает с рабочей. Вы проводите сравнение двух папок «исходной» и «восстановленной из архива» и легко получаете список всех измененных, добавленных или удаленных файлов. Пара несложных манипуляций — и вы удаляете из восстановленной папки все дубликаты файлов, которые есть в рабочей.
• Вы работаете в папке на сетевом диске и регулярно делаете копию к себе на локальный диск. Со временем ваша рабочая папка стала довольно большой и время, затрачиваемое на полное копирование, стало очень большим. Чтобы не копировать каждый раз всю папку, можно сначала провести сравнение с резервной и скопировать только те файлы, которые были изменены или добавлены, а также удалить в резервной папке файлы, которые были удалены из основной.

Когда вы войдете во вкус, почувствуете всю предоставленную мощь этого метода, вы сами сможете придумать тысячи ситуаций, когда метод синхронизации каталогов окажет вам огромную помощь в работе.

Итак, как же все происходит на практике. Приступаем.

Предположим у нас есть основная папка «Рабочая» , в которой лежат файлы, с которыми происходит работа. И есть папка «Архив» , в которой лежит старая копия папки «Рабочая» . Наша задача найти в обеих папках дублирующиеся файлы и удалить их из папки «Архив» .

Открываем TC. В правой и левой панелях открываем сравниваемые папки:

Нажимаем меню «Команды»-«Синхронизировать каталоги…»

Открывается окно сравнения каталогов

Далее нам необходимо установить параметры сравнения. Ставим галочки в параметры «с подкаталогами», «по содержимому», «игнорировать дату»

• «с подкаталогами» — будут сравниваться файлы во всех подкаталогах, указанных папок;
• «по содержимому» — вот ключевая опция, которая заставляет TC сравнивать файлы ПОБИТНО!!! В противном случае, файлы будут сравниваться по имени, размеру, дате;
• «игнорировать дату» — эта опция заставляет TC показывать различающиеся файлы, без попытки автоматического определения направления будущего копирования;

!!! Сравниваться будут файлы только с одинаковыми именами!!! Если файлы идентичны, но они имеют разное имя, то они не будут сравниваться!

Нажимаем кнопку «Сравнить». В зависимости от объёма файлов, сравнение может идти очень долго, не пугайтесь. В конце концов сравнение закончится и в нижней строке состояния(на рисунке секция 1) отобразится результат:


Если кнопки в секции «Показывать» (на рисунке секция 2) нажаты, то вы увидите результат сравнения для каждого файла.

— эта кнопка включает отображение файлов, которые есть в левой панели, но которых нету в правой;

— эта кнопка включает отображение идентичных файлов;

— эта кнопка включает отображение различающихся файлов;

— эта кнопка включает отображение файлов, которые есть в правой панели, но которых нету в левой;

Если у вас, изначально, все кнопки отображения выключены, то результат сравнения можно оценить только по строке состояния (на рисунке выше секция 1), в данном случае мы видим что сравнились 11 файлов, из которых 8 файлов являются одинаковыми, 2 файла различаются, и еще в левой панели имеется файл, которого нет в правой панели.

Для выполнения нашего задания необходимо оставить отображение только идентичных(одинаковых) файлов, поэтому все остальные кнопки отображения выключаем


Теперь у нас остались только идентичные файлы, и мы спокойно можем удалить их в папке «Архив» . Для этого выделяем все файлы. Проще всего это сделать нажатием универсальной комбинации CTRL+A . Или сначала выделить мышкой первую строчку, потом нажать на клавиатуре клавишу SHIFT и не отпуская ее выделить мышкой последнюю строчку. В результате у вас должно получиться вот так:

Заключительным шагом мы нажимаем правой клавишей мышки на любую строку и в открывшемся меню выбираем пункт «Удалить слева»

TC любезно переспрашивает нас о нашем желании,

и если мы нажимаем «ДА» , то он удаляет все помеченные файлы в папке «Архив» .

После этого, автоматически, происходит повторное сравнение двух папок. Если вам не нужно повторное сравнение, то процесс можно прервать, нажав на кнопку «Прервать» или нажать клавишу ESC на клавиатуре. Если повторное сравнение не было прервано, и мы включили все кнопки отображения, то мы увидим вот такое окно

Все. Поставленная задача выполнена. Все одинаковые файлы найдены и удалены в папке «Архив» .

Обучающее видео по теме

2.Поиск дубликатов.

Коренное отличие данного метода от метода синхронизации каталогов заключается в том, что TC игнорирует имена сравниваемых файлов. Фактически, он сравнивает каждый файл с каждым, и показывает нам идентичные файлы как бы они не назывались ! Такой поиск очень удобен, когда вы не знаете ни структуры папок, ни имен сравниваемых файлов. В любом случае, после поиска дубликатов, вы получите точный список идентичных файлов.

Поиск дубликатов я покажу на одной практической задаче, поиске дубликатов личных фотографий. Довольно часто вы сбрасываете в компьютер фотографии со своих цифровых гаджетов. Частенько ситуация запутывается, что-то сбрасывается по многу раз, что-то пропускается. Как быстро удалить файлы, сброшенные несколько раз? Очень просто!

Приступаем.

Предположим, вы всегда сбрасываете все свои фотографии в папку «ФОТО» на диске D. После всех сбросов папка имеет примерно такой вид:

Как видим, некоторые файлы находятся в папках, названных по дате съемки, некоторые сброшены в корень папки «_Новые» и «_Новые1»

Чтобы начать поиск дубликатов открываем в любой панели TC папку, в которой будем искать. В нашем случае это папка «ФОТО»

Далее нажимаем на клавиатуре комбинацию клавиш ALT+F7 или в меню выбираем «Команды»-«Поиск файлов»

Открывается окно стандартного поиска TC. Строку «Искать файлы:» оставляем пустой, тогда будут сравниваться все файлы.

Затем переходим на закладку «Дополнительно» и выставляем галочки «Поиск дубликатов:», «по размеру», «по содержимому» и нажимаем «Начать поиск» .

Поиск может идти ОЧЕНЬ долго, не надо этого пугаться, так как происходит огромное количество сравнений большого объёма файлов. При этом в строке состояния показывается процент выполнения

Когда поиск закончится, откроется окно результатов поиска, в котором нажимаем кнопку «Файлы на панель»

В окне поиска и в окне панели идентичные файлы собраны в секции, отделенные пунктирными линиям

В каждой секции отображается имя файла и полный путь к файлу. Имена ИДЕНТИЧНЫХ файлов могут быть абсолютно различными!
В данном случае видно, что одна и таже фотография записана ТРИ раза, причем два раза под одним именем(IMG_4187.JPG ) а третий раз эта фотография записана под совершенно другим именем(IMG_4187_13.JPG ).

Далее остается выделить ненужные одинаковые файлы и удалить их. Это можно делать вручную, выделяя каждый файл нажатием клавиши Ins . Но это долго и не эффективно. Есть более правильные и быстрые способы.

Итак, наша задача состоит в том, чтобы удалить повторяющиеся файлы в папках «_Новые» и «_Новые1» .
Для этого нажимаем на дополнительной клавиатуре, справа большую клавишу [+] . Обычно этой клавишей в TC выделяются файлы по маске. Эту же операцию можно сделать через меню «Выделение»-«Выделить группу»