Маскарад символов: unicode-ориентированные аспекты безопасности. Вместо файлов «иероглифы» (непонятные символы) на флешке Окна в различных приложениях Windows

Кракозябры - что за слово такое интересное? Этим словом обычно русские пользователи называют неправильное/неверное отображение (кодировку) символов в программах или самой Операционной Системы.
Почему такое случается? Однозначного ответа Вы не найдёте. Это может быть в следствии проделок наших "любимых" вирусов, может из-за сбоя работы ОС Windows (например пропало электричество и выключился компьютер), может программа создала конфликт с другой или ОС и всё "полетело". В общем причин может быть много, а самая интересная - это "Оно само вот так взяло и сломалось".
Читаем статью и узнаём как исправить проблему с кодировкой в программах и ОС Windows, раз уж она случилась.

Кто до сих пор не понял о чём я имею ввиду, вот вам несколько :

Кстати, я тоже попал однажды в эту ситуацию и до сих пор на Рабочем столе лежит файл, который помог мне справится с ней. Поэтому и решил написать данную статью.

За отображение кодировки (шрифта) в Windows отвечает несколько "вещей" - это язык, реестр и файлы самой ОС. Теперь будем их проверять по отдельности и по пунктам.

Как убрать и исправить кракозябры вместо русского (русских букв) в программе или Windows.

1. Проверяем установленный язык для программ, не поддерживающих Юникод. Может он у Вас сбился.

Итак, переходим по пути: Панель управления - Язык и региональные стандарты - вкладка Дополнительно
Там смотрим чтобы язык был Русский.

6. Последний пункт, в котором я даю Вам файл, который помог мне всё исправить когда-то и именно поэтому я его оставил на память. Вот архив:

Внутри два файла: кракозбрoff.cmd и кракозбрoff.reg

Принцип у них одинаковый - исправить всеми способами иероглифы, квадратики, вопросы или восклицательные знаки в програмах и ОС Windows (в простонародье кракозябры ). Я пользовался первым и мне помогло.

Ну и напоследок пара советов:
1) Если работаете с реестром, то не забывайте делать бэкап (резервную копию) на тот случай, если что-то пойдёт не так.
2) Желательно после каждого пункта проверять 1ый пункт.

На этом всё. Теперь Вы знаете как исправить убрать/исправить Кракозябры (квадратики, иероглифы, восклицательные и вопросительные знаки) в программе или Windows.

Внимание!!! Приготовьтесь, статья будет длинной. Можно устать и уснуть, поэтому сядьте поудобнее, возьмите чашечку кофе и начнем.


Изучение китайских иероглифов - это важная часть изучения самого языка. Существует множество способов, средств и идей о том, как их изучать. В этой статье речь пойдет о некоторых из них. Разные люди, в зависимости от своих целей, учат их по-разному.
Например, кто-то хочет просто знать определенное количество знаков. Другие хотят читать текст на иероглифах. Иные желают не только читать, но и уметь писать иероглифы. А еще есть те, кто собирается делать записи по - китайски или писать тексты. Опять же, писать от руки, потому что набирать их компьютерным способом намного проще.
Стоит отметить, что современная занятость человека не позволяет в полной мере окунуться в процесс учебы без отвлечений. Особенно трудно тем, кто изучает язык самостоятельно и "когда получится". Подобрать способ изучения иероглифов стоит индивидуально. Тем, кто ограничен во времени наверняка хочется найти удобное приложение для своего девайса, чтобы в свободную минуту "погрызть гранит науки". Ну а для тех, кто учит язык как специальность должно подойти все, но кто же не хочет сократить сроки на приобретение навыков?
Добавлю, что выучить иероглиф может для разных людей означать разное. В полном смысле выучить иероглиф значит знать его произношение, написание и значение. Итак, какими же способами можно развить все эти навыки и освоить китайские иероглифы? Начнем с бумажных, потом электронные.

Прописывать иероглифы можно в обычной тетради обычной ручкой. Те, кто основательнее подходят к этому, прописывают в специальных прописях. О том, как писать иероглифы, а также о примерах элементарных прописей, была . Более продвинутый метод прописывания - это прописывание по шаблонам. Они тоже бывают разными.

1. Шаблон. Выглядеть может по-разному, но суть одна. Поверх текста наложена калька, по которой и прописываются иероглифы. Проблема в том, что в таком шаблоне нет произношения иероглифов, то есть тренируется только распознавание знакомых и каллиграфия.

2. Шаблон. Прописывание происходит по указанной последовательности черт. Приводится и значение иероглифов. Произношение остается за кадром.

3. Есть и другие прописи, долго описывать. Вот ссылки, можно скачать и распечатать.

Суть метода проста. Придумать на что похож иероглиф и связать каким-либо образом этот образ со значением и произношением иероглифа. Была . Можно записать все ассоциации в тетрадь и возвращаться к ним для повторения.
Сюда же можно включить освоение иероглифов с помощью ключей. Разница в том, что ассоциации станут не абстрактными, а конкретными. Но сначала нужно освоить ключи. Писал об этом в этой статье , а еще было и в этой статье . Можно комбинировать ассоциации и прописывание иероглифов. Но тоже времени требуется немало. Зато надолго запоминается.
Еще об этом, с другой стороны, было в этой статье .

3. Карточки.

Они же флеш-карты. Суть в том, что на карточках пишутся или просто распечатываются иероглифы. На обратной стороне их значение, произношение, либо и то и это. Не всем помогает, занимает место, требует кучу времени на классификацию, и желательно хорошую зрительную память. Вот несколько моих старых коллекций:

Наверное. опытный студент китайского языка сможет привести еще и другие "бумажные" способы освоения и запоминания иероглифов. Но я решил пока остановиться на том, что изложено выше. Перейдем к электронным.

1. Флеш-карты .

Народ понял, что несколько тысяч иероглифов - это большой объем карточек. Целый ящик! Можно и в электронном виде их делать. Создали всякие программы, которые на разных платформах воспроизводят эти карточки.

Кого интересует такой способ, стоит познакомиться с программой . Тоже на любителя. Интервальное повторение картинок также связано с зрительной памятью. Не всем одинаково хорошо дается. Зато не только японский и китайский можно учить. К тому же, приложение доступно для разных платформ.

Есть и другие приложения такого же характера. Вот, например, на сайте "Магазета" приводилось одно такое приложение: ссылка на сатью .

2. Процессоры иероглифов .

Когда-то пробовал знакомиться с иероглифами с помощью программы NJStar. Особо не помогло, но кто-то может найти ей полезное применение на своем компьютере. Вот . В этой программе можно вводить иероглифы мышью.

3. Онлайн переводчики .

В переводчике Гугл есть функция ввода с помощью тачскрина. Там можно прописывать пальцем иероглифы прямо на вашем мобильном девайсе. Требуется интернет. Нет четкой программы запоминания, просто возможность писать не на бумаге. То же самое касается ввода мышью иероглифов в интернет словарях, таких как www.bkrs.info . Рядом со строкой поиска есть кнопка ручного ввода, ее иногда не видно из-за темы вокруг строки, но она точно есть с правой. Можно вводить мышью иероглиф и смотреть его значение, иногда и слушать произношение. Избавляет от прописывания на бумаге.

4. Другие программы .

На просторах интернета можно найти и другой софт. Я не тестировал всего, поэтому не смогу описать многое. Но хочу сказать пару слов про систему МАО. Мне не понравился подход к запоминанию иероглифов, но я все же решил привести ее в этой статье, так как есть приложение "МАОcard". Да и кто-то может оценить эту систему выше меня. Ссылка...

Продолжаем...

Можно еще всякого написать об этом, но в целях экономии хотя бы своего времени приведу ссылку на страницу с Магазеты , где автор приводит целую кучу полезного софта для разных платформ. Есть среди всего и приложения для изучения и повторения иероглифов. Но я хотел бы все же выделить, что одно дело иероглифы повторять или вспоминать, и совсем другое - запоминать. Кажется, это имеет смысл, когда либо знаешь слова, но не умеешь читать, либо учишь сразу и слова, и иероглифы. Для этих целей подходят специальные приложения.

Я бы хотел отдельно упомянуть приложение для платформы Андроид "Chineseskill" . Оно развивается и, на мой взгляд, сочетает в себе много достоинств. Изучение иероглифов идет параллельно с изучением лексики и грамматики. Писать и произносить слова придется . Иногда вручную, пальцем. Может это то, что Вам нужно?..

Другим приложением, которое я советую для изучающих китайский и,в частности, иероглифы, является приложение "Chinese Writer". Я уже делал краткое описание этого приложения . Но скажу, что даже при наличии нескольких неудобств, типа бегущей строки в нижней части экрана с информацией о иероглифе, приложение отличное. Иероглифы можно посмотреть, поучиться их писать, проверить себя в игре, и другое. На мой взгляд, надо иметь такое в своем девайсе... Есть платная и бесплатная версии.

Заключение.

В заключение скажу, что не смог бы всего перечислить, что стояло на моем смартфоне и планшете. Я пробовал разные программы, но увы - нет идеальной. А может я не нашел пока. Но то, что я перечислил выше стоит попробовать. Так или иначе, все это лишь средства ввести иероглифы в свою память. А вот как она их воспримет, захочет ли потом назад их выдавать - это уже другой вопрос. Поэтому, кроме изучения самих иероглифов, рекомендую хорошо высыпаться и тренировать память. Спасибо, что дочитали до конца, теперь ваше представление о вопросе, наверняка, шире.

Думаю, ты не раз встречал эксплойты, которые классифицируются как Unicode, подыскивал нужную кодировку для отображения страницы, радовался очередным кракозябрам то тут, то там. Да мало ли чего еще! Если ты хочешь узнать, кто заварил всю эту кашу, и расхлебывает по сей день, пристегни ремни и читай дальше.

Как говорится, - «инициатива наказуема» и, как всегда, виноваты во всем оказались американцы.

А дело было так. На заре расцвета компьютерной индустрии и распространения интернета появилась необходимость в универсальной системе представления символов. И в 60 годах прошлого века появляется ASCII - «American Standard Code for Information Interchange» (Американский Стандартный Код для Обмена Информацией), знакомая нам 7-битная кодировка символов. Последний восьмой неиспользованный бит был оставлен как управляющий бит для настройки ASCIIтаблицы под свои нужды каждого заказчика компьютера отдельного региона. Такой бит позволял расширить ASCII-таблицу для использования своих символов каждого языка. Компьютеры поставлялись во многие страны, где уже и использовали свою, модифицированную таблицу. Но позже такая фича переросла в головную боль, так как обмен данными между ЭВМ стал достаточно проблематичным. Новые 8-битные кодовые страницы были несовместимы между собой - один и тот же код мог означать несколько разных символов. Для разрешения этой проблемы ISO («International Organization for Standardization», Международная Организация по Стандартизации) предложила новую таблицу, а именно - «ISO 8859».

Позже этот стандарт переименовали в UCS («Universal Character Set», Универсальный Набор Символов). Однако, к моменту первого выпуска UCS появился Unicode. Но так как цели и задачи обоих стандартов совпадали, было принято решение объединить усилия. Что ж, Unicode взял на себя нелегкую задачу - дать каждому символу уникальное обозначение. На данный момент последняя версия Unicode - 5.2.

Хочу предупредить - на самом-то деле история с кодировками весьма мутная. Разные источники предоставляют разные факты, так что не стоит зацикливаться на одном, достаточно быть в курсе того, как все образовывалось и следовать современным стандартам. Мы ведь, надеюсь, не историки.

Прежде чем углубляться в тему, хотелось бы пояснить, что представляет собой Unicode в техническом плане. Цели данного стандарта мы уже знаем, осталось лишь матчасть подлатать.

Итак, что есть Unicode? Проще говоря - это способ представить любой символ в виде определенного кода для всех языков мира. Последняя версия стандарта вмещает порядка 1 100 000 кодов, которые занимают пространство от U+0000 до U+10FFFF. Но тут будь внимателен! Unicode строго определяет то, что есть код для символа и то, как этот код будет представлен в памяти. Коды символов (допустим, 0041 для символа «A») не имеют какоголибо значения, а вот для представления этих кодов байтами есть своя логика, этим занимаются кодировки. Консорциум Unicode предлагает следующие виды кодировок, называемые UTF (Unicode Transformation Formats, «Форматы Преобразования Unicode»). А вот и они:

• UTF-7: данную кодировку не рекомендуется использовать из соображений безопасности и совместимости. Описана в RFC 2152. Не является частью Unicode, однако была представлена данным консорциумом.
• UTF-8: самая распространенная кодировка в веб-пространстве. Является переменной, шириной от 1 до 4 байт. Обратно совместима со протоколами и программами, использующими ASCII. Занимает пределы от U+0000 до U+007F.
• UTF-16: использует переменную ширину от 2 до 4 байт. Чаще всего встречается применение 2 байт. UCS-2 является этой же кодировкой, только с фиксированной шириной 2 байта и ограничено пределами BMP.
• UTF-32: использует фиксированную ширину в 4 байта, то есть 32 бита. Однако используется только 21 бит, остальные 11 забиты нулями. Пусть данная кодировка и громоздка в плане пространства, но считается наиболее эффективной по быстродействию за счет 32-битной адресации в современных компьютерах.

Ближайший аналог UTF-32 - кодировка UCS-4, но сегодня используется реже.

Несмотря на то, что в UTF-8 и UTF-32 можно представить чуть больше двух миллиардов символов, было принято решение ограничиться миллионом с хвостиком - ради совместимости с UTF-16. Все пространство кодов сгруппировано в 17 плоскостей, где в каждой по 65536 символов. Наиболее часто употребляемые символы расположены в нулевой, базовой плоскости. Именуется как BMP - Basic MultiPlane.
Поток данных в кодировках UTF-16 и UTF-32 может быть представлен двумя способами - прямым и обратным порядком байтов, называются UTF-16LE/UTF-32LE, UTF16BE/UTF-32BE, соответственно. Как ты и догадался, LE - это little-endian, а BE - big-endian. Но надо как-то уметь различать эти порядки. Для этого используют метку порядка байтов U+FEFF, в английском варианте - BOM, «Byte Order Mask». Данный BOM может попадаться и в UTF-8, но там он ничего не значит.

Ради обратной совместимости Юникоду пришлось вместить в себя символы существующих кодировок. Но тут возникает другая проблема - появляется много вариантов идентичных символов, которые как-то нужно обрабатывать. Поэтому нужна так называемая «нормализация», после которой уже можно сравнить две строки. Всего существует 4 формы нормализации:

• Normalization Form D (NFD): каноническая декомпозиция.
• Normalization Form C (NFC): каноническая декомпозиция + каноническая композиция.
• Normalization Form KD (NFKD): совместимая декомпозиция.
• Normalization Form KC (NFKC): совместимая декомпозиция + каноническая композиция.

Теперь подробнее про эти странные слова.

Юникод определяет два вида равенств строки - каноническая и по совместимости.

Первое предполагает разложение сложного символа на несколько отдельных фигур, которые в целом образуют исходный символ. Второе равенство подыскивает ближайший подходящий по виду символ. А композиция - это объединение символов из разных частей, декомпозиция - обратное действие. В общем, глянь на рисунок, все станет на место.

В целях безопасности нормализацию следует делать до того, как строка поступит на проверку каким-либо фильтрам. После данной операции размер текста может меняться, что может иметь негативные последствия, но об этом чуть позже.

В плане теории на этом все, я многое еще не рассказал, но надеюсь ничего важного не упустил. Unicode невообразимо обширен, сложен, по нему выпускают толстые книги, и очень нелегко сжато, доступно и полноценно объяснить основы столь громоздкого стандарта. В любом случае, для более глубокого понимания следует пройтись по боковым ссылкам. Итак, когда картина с Юникодом стала более-менее ясна, можем ехать дальше.

Наверняка ты слышал про IP/ARP/DNSспуфинг и хорошо представляешь, что это такое. Но есть еще так называемый «визуальный спуфинг» - это тот самый старый метод, которым активно пользуются фишеры для обмана жертв. В таких случаях применяют использование схожих букв, наподобие «o» и «0», «5» и «s». Это наиболее распространенный и простой вариант, его и легче заметить. Как пример можно привести фишинг-атаку 2000 года на PayPal, о которой даже упомянуто на страницах www.unicode.org . Однако к нашей теме Юникода это мало относится.

Для более продвинутых ребят на горизонте появился Unicode, а точнее - IDN, что является аббревиатурой от «Internationalized Domain Names» (Интернационализованные Доменные Имена). IDN позволяет использовать символы национального алфавита в доменных именах. Регистраторы доменных имен позиционируют это как удобную вещь, мол, набирай доменное имя на своем родном языке! Однако, удобство это весьма сомнительное. Ну да ладно, маркетинг - не наша тема. Зато представь, какое это раздолье для фишеров, сеошников, киберсквоттеров и прочей нечисти. Я говорю об эффекте, что называется IDN-спуфинг. Данная атака относится к категории визуального спуфинга, в английской литературе это еще называют как «homograph attack», то есть, атаки с использованием омографов (слов, одинаковых в написании).

Да, при наборе букв никто не ошибется и не наберет заведомо ложный домен. Но ведь чаще всего пользователи щелкают по ссылкам. Если хочешь убедиться в эффективности и простоте атаки, то посмотри на картинку.

В качестве некоторой панацеи был придуман IDNA2003, но уже в этом, 2010 году, вступил в силу IDNA2008. Новый протокол должен был решить многие проблемы молодого IDNA2003, однако внес новые возможности для спуфинг-атак. Снова возникают проблемы совместимости - в некоторых случаях один и тот же адрес в разных браузерах может вести на разные сервера. Дело в том, что Punycode может преобразован по-разному для разных браузеров - все будет зависеть от того, спецификации какого стандарта поддерживаются.
Проблема зрительного обмана на этом не заканчивается. Unicode и тут приходит на службу спамерам. Речь про спам-фильтры - исходные письма прогоняются спамерами через Unicode-обфускатор, который подыскивает схожие между собой символы разных национальных алфавитов по так называемому UC-Simlist («Unicode Similarity List», список схожих символов Unicode). И все! Антиспам фильтр пасует и уже не может в такой каше символов распознать нечто осмысленное, зато юзер вполне способен прочитать текст. Не отрицаю, что решение для такой проблемы нашли, однако флаг первенства за спамерами. Ну и еще кое-что из этой же серии атак. Ты точно уверен, что открываешь некий текстовый файл, а не имеешь дело с бинарником?

На рисунке, как видишь, имеем файл с названием evilexe. txt. Но это фальш! Файл на самом-то деле называется eviltxt.exe. Спросишь, что это еще за фигня в скобках? А это, U+202E или RIGHT-TO-LEFT OVERRIDE, так называемый Bidi (от слова bidirectional) - алгоритм Юникода для поддержки таких языков, как арабский, иврит и прочих. У последних ведь письменность справа налево. После вставки символа Юникода RLO, все, что идет после RLO, мы увидим в обратном порядке. Как пример данного метода из реальной жизни могу привести спуфинг-атаку в Mozilla Firfox - cve.mitre.org/cgi-bin/cvename.cgi?name=CVE-2009-3376 .

На сегодня уже известно, что нельзя обрабатывать длинные формы (non-shortest form) UTF-8, так как это является потенциальной уязвимостью. Однако разработчиков PHP этим не вразумить. Давай разберемся, что собой представляет данный баг. Возможно ты помнишь про неправильную фильтрацию и utf8_decode(). Вот этот случай мы и рассмотрим более детально. Итак, мы имеем такой PHP-код: