a4486980a4
1745 wystapien w 291 plikach (backend, scripts, mobile). Dominowal jeden ksztalt, ' — ' laczace zdania, wiec poszedl przecinek; myslnik otwierajacy mysl zdjety; zakresy 0–5 i A–Z na dywiz. Podzial komentarz/kod robil skaner stanow, nie regex, zeby nie ruszyc myslnika stojacego w stringu albo w wyrazeniu regularnym. Potwierdzone maszynowo: po wycieciu komentarzy z wersji HEAD i z dysku obie sa identyczne we wszystkich 291 plikach, czyli poza komentarzami nie zmienilo sie nic. 233 pliki .py parsuja sie bez bledu, tsc ma te same 11 bledow w tych samych 3 plikach co przed zmiana. Dwie rzeczy wymagaly poprawki po automacie: wyrownane listy definicji, gdzie myslnik byl separatorem kolumny (37 miejsc, kolumna przywrocona), i trzy przeniesienia mysli do nowej linii, gdzie zostawal wiszacy przecinek na poczatku (poprawione recznie). Bundla nie republikuje: Hermes i tak nie niesie komentarzy, wiec dla uzytkownika to zero zmiany. Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
33 lines
1.2 KiB
Python
33 lines
1.2 KiB
Python
"""PornTrex.com, direct HTML scrape search results.
|
|
|
|
Search: `https://www.porntrex.com/search/<q>/` (single page, brak ?page=).
|
|
Scene URL: `https://www.porntrex.com/video/<id>/<slug>/`
|
|
|
|
Porntrex pagination niespójne między widokami, używamy `?from=<offset>` gdy page>1.
|
|
"""
|
|
from __future__ import annotations
|
|
|
|
import re
|
|
|
|
from app.connectors.direct_scrapers._search_base import BaseSearchScraper
|
|
|
|
|
|
class PornTrexScraper(BaseSearchScraper):
|
|
sitetag = "porntrexcom"
|
|
_search_url_template = "https://www.porntrex.com/search/{query}/"
|
|
_scene_url_re = re.compile(
|
|
r'href="(?P<url>https://www\.porntrex\.com/video/\d+/(?P<slug>[a-z0-9_\-]+))/?"',
|
|
re.IGNORECASE,
|
|
)
|
|
|
|
def search(self, query, *, page=1, limit=None):
|
|
# Porntrex używa offset w URL gdy page > 1: `/search/<q>/?from_videos=<page>`
|
|
if page > 1:
|
|
original = self._search_url_template
|
|
self._search_url_template = f"{original.rstrip('/')}/?from_videos={page}"
|
|
try:
|
|
yield from super().search(query, page=page, limit=limit)
|
|
finally:
|
|
self._search_url_template = original
|
|
else:
|
|
yield from super().search(query, page=page, limit=limit)
|