제가 예전에 그런 현상이 일어난적이 있습니다.
 pam 의 버젼을 업글한 적이 있는데
pam.d/login 의 내용이 수정되었습니다.
전 특정파일에 로긴 가능한 계정을 적어두고
pam 에서 그걸 적용시켜서 사용하는데
그부분이 없어서
pam 업글후 login 에 그 부분을 추가했습니다.
 물론내가 원하는대로 동작은 했씁니다만.
문제는 님의 말대로
8byte 까지만 인식이 되었씁니다.
(당연한 이야기이지만 pam 업글하기전에는 8byte 이후의 문자열에 대해서도
모두 적용이 되었습니다.)
8byte 이후의 문자열에 대하서
전혀 채크를 하지 않았습니다. 문자열 길이에도 전혀 상관이 없으며
8byte 이후에 나오는 문자열은 어떤것이던 상관이 없었습니다.
 분명 md5 방식이며 shadow 방식입니다.
 아마도 님의 경우는 pam 의 문제가 아닐까 여겨집니다.
 아울려서 거기에 사용되는 *.so 와도 연관이 있을지도 모릅니다.
    : 이 현상이 나에게만 일어나는 것인지 아닌지는 모르겠지만
: 재미난 현상이네요.
:
: 로그인 암호 입력
:
: 뭐고몰라#123
:
: 암호를 위와 같이 설정하시고 난 뒤 다시 로그인 합니다.
:
: 로그인 암호 입력
:
: 뭐고몰라#452
:
: 분명히 특수 문자{#<--이것을 말함} 입력 뒤의 숫자가 틀립니다.
:
: 문제가 되는 것은 로그인이 된다는 것입니다.
:
: 이런 희한한 일이....쩝
:
: 다시 말해서, 문제점은 아래와 같습니다.
: 특수문자(가령 예를 들어서 "$"와 같은 문자)를 입력하고
: 뒤에 숫자를 기입한 암호에서는 어떤 숫자든 상관없이
: 자리수만 맞으면 로그인이 됩니다.
:
: 웃어야 하는 일인지 울어야 하는 일인지.....