begemotikof, все-таки решусь потыкать пальцем в небо. Немного знаком с алгоритмами обработки, правда на другом железе.
1. Похоже, камера без ИК фильтра (что было бы логично), возможно, камера в подъезде реагирует на потоки теплого воздуха. Это, кстати закрытый холл или лестничная площадка? если второе, то весьма вероятно.
2. Камера компактная, матрица маленькая, чувствительная к шуму. баланс между "шумодавом" и детектором объектов в условиях низкой освещенности - это лотерея, на которую вы можете повлиять лишь опосредовано, подобрав нужную "чувствительность". В этих условиях простые ИК-датчики бывают более эффективны.
3. Вопрос в том еще какие лампы у вас стоят в коридоре, а какие в квартире? Современные энергосберегающие лампы имеют довольно таки узкий спектр, возможно в ИК-диапазоне (к которому смещена чувствительность самой камеры) они не подсвечивают почти ничего. У светодиодных спектр еще более узкий. Кстати, про диод, который убрали, немного не понял - какие были его функции? Подсвечивать вместо лампы или он в каком-то датчике работает?
Исходя из этого можно дать пару рекомендаций, не сильно обременящих кошелек и личное время:
а) попробовать поменять лампы в коридоре на более теплые и чуть более мощные, может быть даже на старые добрые лампы накаливания;
б) попробовать дать дополнительную подсветку в ИК-диапазоне ( ИК-лампой или светодиодным прожектором ) просто у кого-нибудь взять на время, они не шибко-то дешевые, чтобы их ради эксперимента покупать.
в) загрубить чувствительность на камере до предела, потом отпускать помалу. возможно так найдете наконец тот самый баланс (но это лучше всего вместе с пп. а и б делать)
г) ну и наконец, самый затратный путь - это подбирать другую камеру, скорее всего более дорогую и менее компактную, но этого как раз не хотелось.