안녕하세요, 시원스쿨랩입니다.
관계대명사는 동일한 대상이 언급된 두 개의 문장을 이어주면서(접속사) 선행사를 수식할 때(대명사) 사용합니다.
which는 주격 관계대명사/목적격 관계대명사로 각각 사용되어, 주어 역할/목적어 역할을 할 수 있습니다.
whose는 바로 뒤에 오는 명사의 소유격 역할을 합니다.
which와 whose 모두 사람/사물을 선행사로 가질 수 있습니다.

문의주신 문장을 분석해보면 아래와 같습니다.
She paints portraits which subjects are always staring intensely.
She(주어1) paints(동사1) portraits(목적어) which(관계대명사) subjects(주어2) are(동사2) always staring intensely.
위와 같이 관계사 뒤에 주어와 동사가 오는 구조가 이루어진다면, 관계사 자리에 쓰인 which는 목적격 관계대명사가 되는 것으로 보아야 하는데,
해당 문장의 선행사는 portraits가 맞지만, portraits와 subjects는 서로 소유 관계에 있습니다.

portraits의 subjects, 즉 portraits 자체가 아니라 portraits에 그려진/portraits가 나타내는 subjects가 되는 것이 적절하므로,
목적격 관계대명사 which가 아닌 소유격 관계대명사 whose로 바뀌어 'She paints portraits whose subjects are always staring intensely.'로 쓰이는 것이 맞습니다.

위에서도 언급되었듯이, which와 whose 모두 사람/사물을 선행사로 가질 수 있으므로, 두 개념을 구분해서 정리해 두시면 문제풀이에 도움이 됩니다.
회원님의 텝스 공부를 응원합니다.
감사합니다.