Удалить дублирующиеся строки без сортировки [дубликаты]

На этот вопрос уже есть ответ:

Как я могу удалить повторяющиеся строки в файле в Unix? 8 ответов

У меня есть служебный скрипт на Python:

#!/usr/bin/env python
import sys
unique_lines = []
duplicate_lines = []
for line in sys.stdin:
  if line in unique_lines:
    duplicate_lines.append(line)
  else:
    unique_lines.append(line)
    sys.stdout.write(line)
# optionally do something with duplicate_lines

Эта простая функциональность (uniq без необходимости сначала сортировать, стабильное упорядочение) должна быть доступна в виде простой утилиты UNIX, не так ли? Может быть, комбинация фильтров в трубе?

Причина, по которой я спрашиваю: нужна эта функциональность в системе, где я нигде не могу запустить python

Ответы на вопрос(8)

Ваш ответ на вопрос