[프로그래머스][LV.2] [1차] 뉴스 클러스터링 | python3

2025. 2. 19. 12:18ㆍ카테고리 없음

문제링크:  [1차] 뉴스 클러스터링

문제설명

여러 언론사에서 쏟아지는 뉴스, 특히 속보성 뉴스를 보면 비슷비슷한 제목의 기사가 많아 정작 필요한 기사를 찾기가 어렵다. Daum 뉴스의 개발 업무를 맡게 된 신입사원 튜브는 사용자들이 편리하게 다양한 뉴스를 찾아볼 수 있도록 문제점을 개선하는 업무를 맡게 되었다.

개발의 방향을 잡기 위해 튜브는 우선 최근 화제가 되고 있는 "카카오 신입 개발자 공채" 관련 기사를 검색해보았다.

카카오 첫 공채..'블라인드' 방식 채용
카카오, 합병 후 첫 공채.. 블라인드 전형으로 개발자 채용
카카오, 블라인드 전형으로 신입 개발자 공채
카카오 공채, 신입 개발자 코딩 능력만 본다
카카오, 신입 공채.. "코딩 실력만 본다"
카카오 "코딩 능력만으로 2018 신입 개발자 뽑는다"
기사의 제목을 기준으로 "블라인드 전형"에 주목하는 기사와 "코딩 테스트"에 주목하는 기사로 나뉘는 걸 발견했다. 튜브는 이들을 각각 묶어서 보여주면 카카오 공채 관련 기사를 찾아보는 사용자에게 유용할 듯싶었다.

유사한 기사를 묶는 기준을 정하기 위해서 논문과 자료를 조사하던 튜브는 "자카드 유사도"라는 방법을 찾아냈다.

자카드 유사도는 집합 간의 유사도를 검사하는 여러 방법 중의 하나로 알려져 있다. 두 집합 A, B 사이의 자카드 유사도 J(A, B)는 두 집합의 교집합 크기를 두 집합의 합집합 크기로 나눈 값으로 정의된다.

예를 들어 집합 A = {1, 2, 3}, 집합 B = {2, 3, 4}라고 할 때, 교집합 A ∩ B = {2, 3}, 합집합 A ∪ B = {1, 2, 3, 4}이 되므로, 집합 A, B 사이의 자카드 유사도 J(A, B) = 2/4 = 0.5가 된다. 집합 A와 집합 B가 모두 공집합일 경우에는 나눗셈이 정의되지 않으니 따로 J(A, B) = 1로 정의한다.

자카드 유사도는 원소의 중복을 허용하는 다중집합에 대해서 확장할 수 있다. 다중집합 A는 원소 "1"을 3개 가지고 있고, 다중집합 B는 원소 "1"을 5개 가지고 있다고 하자. 이 다중집합의 교집합 A ∩ B는 원소 "1"을 min(3, 5)인 3개, 합집합 A ∪ B는 원소 "1"을 max(3, 5)인 5개 가지게 된다. 다중집합 A = {1, 1, 2, 2, 3}, 다중집합 B = {1, 2, 2, 4, 5}라고 하면, 교집합 A ∩ B = {1, 2, 2}, 합집합 A ∪ B = {1, 1, 2, 2, 3, 4, 5}가 되므로, 자카드 유사도 J(A, B) = 3/7, 약 0.42가 된다.

이를 이용하여 문자열 사이의 유사도를 계산하는데 이용할 수 있다. 문자열 "FRANCE"와 "FRENCH"가 주어졌을 때, 이를 두 글자씩 끊어서 다중집합을 만들 수 있다. 각각 {FR, RA, AN, NC, CE}, {FR, RE, EN, NC, CH}가 되며, 교집합은 {FR, NC}, 합집합은 {FR, RA, AN, NC, CE, RE, EN, CH}가 되므로, 두 문자열 사이의 자카드 유사도 J("FRANCE", "FRENCH") = 2/8 = 0.25가 된다.

 

제한조건

- 입력으로는 str1과 str2의 두 문자열이 들어온다. 각 문자열의 길이는 2 이상, 1,000 이하이다.
- 입력으로 들어온 문자열은 두 글자씩 끊어서 다중집합의 원소로 만든다. 이때 영문자로 된 글자 쌍만 유효하고, 기타 공백이나 숫자, 특수 문자가 들어있는 경우는 그 글자 쌍을 버린다. 예를 들어 "ab+"가 입력으로 들어오면, "ab"만 다중집합의 원소로 삼고, "b+"는 버린다.
- 다중집합 원소 사이를 비교할 때, 대문자와 소문자의 차이는 무시한다. "AB"와 "Ab", "ab"는 같은 원소로 취급한다.

 

문제풀이

 

def solution(str1, str2):
    
    # str1과 str2가 공집합일때 따로 빼서 리턴해줌
    if str1==str2=='':
        return 1
    elif str1=='' or str2=='':
        return 0
    
    st1=''
    st2=''
    
    # 알파벳만 사용하기 때문에 알파벳인 것만 추가해줌.
    for s in str1.lower():
        if s.isalpha:
            st1+=s
    for s in str2.lower():
        if s.isalpha:
            st2+=s
            
    s1=[]
    s2=[]
    
    for i in range(len(st1)-1):
        s1.append(st1[i:i+2])
    for i in range(len(st2)-1):
        s2.append(st2[i:i+2])
    
    chk=0
    for n in s1:
        for m in s2:
            if n==m:
                chk+=1
    chk=min(chk,len(s1),len(s2))
    
    n=len(set(s1))
    m=len(set(s2))
    nm=len(set(s1+s2))
    
    u=max(n,m,nm)
    
    answer= int((chk/u)*65536)
    return answer

여기서 코드를 실행하니 몇개는 맞고 몇개는 틀리고 해서 왜 틀릴까 생각해봤다.

알파벳외의 것들을 처리할때 그것들을 없애서 문자열을 다시 만들었는데 이렇게 하면 바로옆에 있는 알파벳이 아니라 건너에 잇는 알파벳과 붙을 가능성이 있다. aa@@bb 가 aabb가 되어 ab라는 있으면 안될 값까지 저장됨.

 

이 부분을 수정했는데도 틀려서 왜일까 생각해보니 교집합 갯수 구하는 부분이 잘못된듯.

# 생각해보니 합집합에 중복제거를 하면 안됨.
# A = {1, 1, 2, 2, 3}, 다중집합 B = {1, 2, 2, 4, 5}라고 하면, 교집합 A ∩ B = {1, 2, 2}, 합집합 A ∪ B = {1, 1, 2, 2, 3, 4, 5}가 되므로

 

def solution(str1, str2):
    
    # str1과 str2가 공집합일때 따로 빼서 리턴해줌
    if str1==str2=='':
        return 1
    elif str1=='' or str2=='':
        return 0
    
    st1=''
    st2=''
    
    # 전부 소문자로
    str1=str1.lower()
    str2=str2.lower()
            
    s1=[]
    s2=[]
    
    for i in range(len(str1)-1):
        if str1[i].isalpha and str1[i+1].isalpha:
            s1.append(str1[i:i+2])
    for i in range(len(str2)-1):
        if str2[i].isalpha and str2[i+1].isalpha:
            s2.append(str2[i:i+2])
    
    i=[]
    u=[]
    for s in s1:
        if s in s2:
            i.append(s)
            s2.remove(s)
        else:
            u.append(s)
    u=u+s2+i
    
    
    answer= int((len(i)/len(u))*65536)
    return answer

약간 답을 참고해서 풀었는데 틀림.... s1을 돌면서 s2에 있으면 교집합에 저장하고 s2에서 지운다.그렇게 계속 돌면 교집합이 나오지 않나?? 합집합도 교집합 조건에 안맞아서 나온 값+s2에 남은 값+교집합 하면 되는 거 아닌가...?

 

isalpha에 ()를 붙여줘야 함...

그랬더니 ZeroDivisionError: division by zero  이런 에러가 남.

 

공집합은 1을 반환해주는 부분의 위치를 옮겼다.

 

 

 

나의코드

def solution(str1, str2):
    
#     # str1과 str2가 공집합일때 따로 빼서 리턴해줌
#     if str1==str2=='':
#         # 여기에서 65536을 곱해줘야 함. 1은 유사도이기 때문
#         return 1*65536
#     elif str1=='' or str2=='':
#         return 0
    
    
    # 전부 소문자로
    str1=str1.lower()
    str2=str2.lower()
            
    s1=[]
    s2=[]
    
    for i in range(len(str1)-1):
        if str1[i].isalpha() and str1[i+1].isalpha():
            s1.append(str1[i:i+2])
    for i in range(len(str2)-1):
        if str2[i].isalpha() and str2[i+1].isalpha():
            s2.append(str2[i:i+2])
    
    if not s1 and not s2:
        return 1 * 65536
    elif not s1 or not s2:
        return 0
    
    i=[]
    u=[]
    for s in s1:
        if s in s2:
            i.append(s)
            s2.remove(s)
        else:
            u.append(s)
    u=u+s2+i
    
    
    answer= int((len(i)/len(u))*65536)
    return answer

 

 

더보기

참고하기

import re
import math

def solution(str1, str2):
    str1 = [str1[i:i+2].lower() for i in range(0, len(str1)-1) if not re.findall('[^a-zA-Z]+', str1[i:i+2])]
    str2 = [str2[i:i+2].lower() for i in range(0, len(str2)-1) if not re.findall('[^a-zA-Z]+', str2[i:i+2])]

    gyo = set(str1) & set(str2)
    hap = set(str1) | set(str2)

    if len(hap) == 0 :
        return 65536

    gyo_sum = sum([min(str1.count(gg), str2.count(gg)) for gg in gyo])
    hap_sum = sum([max(str1.count(hh), str2.count(hh)) for hh in hap])

    return math.floor((gyo_sum/hap_sum)*65536)

 

정규식....공부해야함.

 

import re
import math
  • re (정규 표현식) → 영문자만 포함된 문자열을 추출하는 데 사용
  • math → math.floor()를 사용하여 소수점을 버리고 정수로 변환

1️⃣ 두 글자씩 나누어 다중집합(Multiset) 생성

str1 = [str1[i:i+2].lower() for i in range(0, len(str1)-1) if not re.findall('[^a-zA-Z]+', str1[i:i+2])]
str2 = [str2[i:i+2].lower() for i in range(0, len(str2)-1) if not re.findall('[^a-zA-Z]+', str2[i:i+2])]
 

✅ 작동 방식

  1. str1[i:i+2] → 연속된 두 글자를 추출 (예: "FRANCE" → ["FR", "RA", "AN", "NC", "CE"])
  2. .lower() → 소문자로 변환 (대소문자 구분 없음)
  3. re.findall('[^a-zA-Z]+', str1[i:i+2])
    • 알파벳 이외의 문자(공백, 숫자, 특수문자)가 포함된 경우 제외
    • 즉, 영문자로만 구성된 문자열만 포함

re.findall('[^a-zA-Z]+', str1[i:i+2])는 **정규 표현식(Regular Expression, RegEx)**을 사용한 코드입니다.

🔍 정규식 분석

1️⃣ [^a-zA-Z]+의 의미

정규식의미
[^...] 대괄호 [] 안에 있는 문자 집합의 **반대(negation)**를 의미
a-zA-Z **영어 대문자(A-Z)와 소문자(a-z)**를 포함
+ 1개 이상 반복되는 패턴을 의미

📌 정리하면?

👉 "영문자가 아닌 문자(숫자, 특수문자, 공백 등)가 1개 이상 등장하는 경우 찾기"

2️⃣ re.findall()의 역할

re.findall('[^a-zA-Z]+', str1[i:i+2])
 
  • re.findall(pattern, string)은 문자열에서 패턴과 일치하는 모든 부분을 리스트로 반환합니다.
  • 따라서, [^a-zA-Z]+ 정규식을 사용하면 영문자가 아닌 모든 문자열을 리스트로 반환합니다.

🔎 더 좋은 방법은 없을까?

re.match('^[a-zA-Z]{2}$', str1[i:i+2])
 

✔️ re.match()를 사용하면 더 효율적이고 가독성이 좋은 코드가 됩니다!

 

🔹 re.match() vs re.findall() 차이점

함수동작 방식
re.match() 문자열의 시작 부분에서 패턴이 일치하는지 확인 (첫 부분만 검사)
re.findall() 문자열 전체에서 패턴이 일치하는 모든 부분을 리스트로 반환

 

str1 = [str1[i:i+2].lower() for i in range(len(str1)-1) 
        if re.match('^[a-zA-Z]{2}$', str1[i:i+2])]

✅ ^[a-zA-Z]{2}$ → 정확히 영문자 두 개({2})만 포함된 경우만 허용!

 

from collections import Counter
def solution(str1, str2):
    # make sets
    s1 = [str1[i:i+2].lower() for i in range(len(str1)-1) if str1[i:i+2].isalpha()]
    s2 = [str2[i:i+2].lower() for i in range(len(str2)-1) if str2[i:i+2].isalpha()]
    if not s1 and not s2:
        return 65536
    c1 = Counter(s1)
    c2 = Counter(s2)
    answer = int(float(sum((c1&c2).values()))/float(sum((c1|c2).values())) * 65536)
    return answer

Counter 함수가 뭐지??

📌 Counter 함수의 역할과 사용법

from collections import Counter
  • Counter는 collections 모듈에 포함된 딕셔너리 기반의 자료구조입니다.
  • 각 원소의 등장 횟수를 세는 기능을 합니다.

1️⃣ Counter가 어떻게 사용되었는지 분석

c1 = Counter(s1)
c2 = Counter(s2)
  • s1과 s2는 문자열에서 2글자씩 추출한 다중집합(Multiset) 리스트
  • Counter(s1) → s1의 각 원소 개수를 세어 딕셔너리 형태로 저장
  • Counter(s2) → s2의 각 원소 개수를 세어 딕셔너리 형태로 저장

2️⃣ Counter의 기본 동작 예제

from collections import Counter

s1 = ['fr', 'ra', 'an', 'nc', 'ce', 'fr']
s2 = ['fr', 're', 'en', 'nc', 'ch']

c1 = Counter(s1)
c2 = Counter(s2)

print(c1)  # 출력: Counter({'fr': 2, 'ra': 1, 'an': 1, 'nc': 1, 'ce': 1})
print(c2)  # 출력: Counter({'fr': 1, 're': 1, 'en': 1, 'nc': 1, 'ch': 1})
  • c1은 s1의 각 원소 등장 횟수를 저장 ('fr'이 2번 등장)
  • c2는 s2의 각 원소 등장 횟수를 저장

3️⃣ & 연산자: 교집합

c1 & c2
  • Counter는 & 연산자로 교집합 연산을 지원
  • 각 원소의 최소 개수만큼 저장됨
print(c1 & c2)  # 출력: Counter({'fr': 1, 'nc': 1})
  • 'fr'은 c1에서 2번, c2에서 1번 등장 → 최소값 1
  • 'nc'는 둘 다 1번 등장 → 1
  • 따라서 교집합 = {'fr': 1, 'nc': 1}
sum((c1 & c2).values())  # 교집합 개수의 합
# 결과: 1 + 1 = 2

4️⃣ | 연산자: 합집합

c1 | c2
  • Counter는 | 연산자로 합집합 연산을 지원
  • 각 원소의 최대 개수만큼 저장됨
print(c1 | c2)  
# 출력: Counter({'fr': 2, 'ra': 1, 'an': 1, 'nc': 1, 'ce': 1, 're': 1, 'en': 1, 'ch': 1})
  • 'fr'은 c1에서 2번, c2에서 1번 등장 → 최대값 2
  • 나머지는 개수가 1이므로 그대로 포함
sum((c1 | c2).values())  # 합집합 개수의 합
# 결과: 2 + 1 + 1 + 1 + 1 + 1 + 1 + 1 = 8

5️⃣ 최종 계산 과정

answer = int(float(sum((c1&c2).values()))/float(sum((c1|c2).values())) * 65536)
  • sum((c1&c2).values()) → 교집합 크기
  • sum((c1|c2).values()) → 합집합 크기
  • 교집합 / 합집합 = 자카드 유사도
  • * 65536 → 문제에서 요구한 값으로 변환

🎯 결론

✅ Counter를 사용하여 리스트에서 각 원소의 개수를 자동으로 계산
✅ & 연산자로 교집합의 최소 개수 계산
✅ | 연산자로 합집합의 최대 개수 계산
✅ 연산을 간결하게 수행하며, 속도도 빠름! 🚀

 

 

def solution(str1, str2):

    list1 = [str1[n:n+2].lower() for n in range(len(str1)-1) if str1[n:n+2].isalpha()]
    list2 = [str2[n:n+2].lower() for n in range(len(str2)-1) if str2[n:n+2].isalpha()]

    tlist = set(list1) | set(list2)
    res1 = [] #합집합
    res2 = [] #교집합

    if tlist:
        for i in tlist:
            res1.extend([i]*max(list1.count(i), list2.count(i)))
            res2.extend([i]*min(list1.count(i), list2.count(i)))

        answer = int(len(res2)/len(res1)*65536)
        return answer

    else:
        return 65536

 

str[i:i+2] 에 isalpha()를 사용하면 더 간단하게 코드를 짤 수 있음.

교집합은 중복된 것의 숫자가 더 적은 만큼 넣고

합집합은 중복된 것의 숫자가 더 많은 만큼 넣으면 됨

중복되지 않은 것은 교집합에선 0으로 합집합에선 있는 곳의 숫자가 곱해짐.  

 

집합 연산을 위한 tlist 생성

 
tlist = set(list1) | set(list2)
  • set(list1) | set(list2) → list1과 list2의 합집합 (단일 원소 기준)
  • tlist는 다중집합이 아닌 단순한 집합 (중복 없음)
  • 공집합일 경우와 list1과 list2의 원소를 한번씩 돌기 위함.
  • | => 두 집합을 합치는 역할. 집합(set)의 합집합 연산자.

✅ 예제

🔹 tlist → {'fr', 'ra', 'an', 'nc', 'ce', 're', 'en', 'ch'}
(합집합에서 단일 원소 기준으로 나옴)

티스토리툴바