Удалить дублирующиеся строки без сортировки [дубликаты]
На этот вопрос уже есть ответ:
Как я могу удалить повторяющиеся строки в файле в Unix? 8 ответовУ меня есть служебный скрипт на Python:
#!/usr/bin/env python
import sys
unique_lines = []
duplicate_lines = []
for line in sys.stdin:
if line in unique_lines:
duplicate_lines.append(line)
else:
unique_lines.append(line)
sys.stdout.write(line)
# optionally do something with duplicate_lines
Эта простая функциональность (uniq без необходимости сначала сортировать, стабильное упорядочение) должна быть доступна в виде простой утилиты UNIX, не так ли? Может быть, комбинация фильтров в трубе?
Причина, по которой я спрашиваю: нужна эта функциональность в системе, где я нигде не могу запустить python